Hanqing Li Hanqing Li 李汉青


High-dimensional and structured inference

High dimensionality enters my research through statistical structure. The ambient parameter dimension may exceed the informative sample size, but sparsity, grouped sparsity, restricted curvature, or predictor equivalence can reduce the effective complexity enough to make estimation, selection, and uncertainty quantification possible.

Effective dimension and restricted geometry

For a sparse target with active set \(S_0\), global strong convexity is usually unavailable. The relevant requirement is curvature on a cone of perturbations, for example

\[ \frac{\|X\Delta\|_2^2}{n} \geq \kappa^2\|\Delta_{S_0}\|_2^2, \qquad \|\Delta_{S_0^c}\|_1\leq c\|\Delta_{S_0}\|_1 . \]

Grouped models replace coordinate sparsity by block norms and groupwise cones. Such inequalities connect stochastic score control to deterministic likelihood geometry and determine whether oracle bounds, support recovery, or local Gaussian approximations can hold.

Grouped sparsity in censored likelihoods

The project on the group spike-and-slab lasso for Cox regression studies selection when covariates arrive in scientifically meaningful blocks and outcomes are right-censored. Its objective is built from the Cox partial log-likelihood,

\[ \ell(\beta) = \sum_{i:\delta_i=1} \left\{ x_i^\top\beta -\log\!\sum_{j\in R_i}\exp(x_j^\top\beta) \right\}, \]

combined with a group spike-and-slab penalty. Posterior inclusion weights are updated through an expectation-maximization representation, while blockwise coordinate optimization exploits the local curvature of the partial likelihood.

Growing support spaces and posterior normality

High-dimensional structure also governs the sparse GLM Bernstein-von Mises project. Uniform local asymptotic normality must hold over a posterior-relevant family of supports, and model complexity must be controlled strongly enough for the supportwise Gaussian mixture to concentrate on the true component. This project belongs primarily to Bayesian asymptotics, but its technical engine is restricted high-dimensional geometry.

Redundant coordinates and stable inferential objects

In the posterior-compression project, correlation creates many coordinate descriptions of nearly the same predictive signal. The appropriate structure is therefore not only sparsity but an equivalence geometry on support space. Stable inference may require aggregation into regions rather than insisting on one exact selected model.

Mathematical foundations

The supporting theory appears in the notes on statistical learning, including concentration, covering numbers, regularization, restricted eigenvalues, oracle inequalities, and sparsity, as well as the notes on probability theory, Bayesian statistics, and survival analysis.

Inférence structurée en grande dimension

La grande dimension intervient dans mes recherches par l'intermédiaire de la structure statistique. La dimension ambiante peut dépasser la taille d'échantillon informative, mais la parcimonie, la parcimonie groupée, la courbure restreinte ou l'équivalence entre prédicteurs peuvent réduire suffisamment la complexité effective pour permettre l'estimation, la sélection et la quantification de l'incertitude.

Dimension effective et géométrie restreinte

Pour une cible parcimonieuse de support actif \(S_0\), la convexité forte globale est généralement absente. La propriété pertinente est une courbure sur un cône de perturbations, par exemple

\[ \frac{\|X\Delta\|_2^2}{n} \geq \kappa^2\|\Delta_{S_0}\|_2^2, \qquad \|\Delta_{S_0^c}\|_1\leq c\|\Delta_{S_0}\|_1 . \]

Les modèles groupés remplacent la parcimonie coordonnée par des normes de blocs et des cônes groupés. Ces inégalités relient le contrôle stochastique du score à la géométrie déterministe de la vraisemblance et déterminent la possibilité de bornes oracle, de récupération du support ou d'approximations gaussiennes locales.

Parcimonie groupée dans les vraisemblances censurées

Le projet sur le lasso spike-and-slab groupé pour la régression de Cox étudie la sélection lorsque les covariables sont organisées en blocs scientifiquement interprétables et que les réponses sont censurées à droite. Son critère utilise la log-vraisemblance partielle de Cox,

\[ \ell(\beta) = \sum_{i:\delta_i=1} \left\{ x_i^\top\beta -\log\!\sum_{j\in R_i}\exp(x_j^\top\beta) \right\}, \]

combinée à une pénalité spike-and-slab par groupes. Les probabilités d'inclusion sont mises à jour par une représentation d'espérance-maximisation, tandis qu'une optimisation coordonnée par blocs exploite la courbure locale de la vraisemblance partielle.

Espaces de supports croissants et normalité a posteriori

La structure en grande dimension gouverne également le projet de Bernstein-von Mises pour les GLM parcimonieux. La normalité locale asymptotique doit être uniforme sur une famille de supports pertinente a posteriori, et la complexité des modèles doit être assez contrôlée pour concentrer le mélange gaussien sur la vraie composante.

Coordonnées redondantes et objets inférentiels stables

Dans le projet de compression a posteriori, la corrélation crée plusieurs descriptions coordonnées d'un signal prédictif presque identique. La structure pertinente est donc une géométrie d'équivalence sur l'espace des supports; une inférence stable peut exiger une agrégation en régions plutôt que la sélection forcée d'un modèle exact.

Fondements mathématiques

La théorie nécessaire est développée en apprentissage statistique: concentration, nombres de recouvrement, régularisation, valeurs propres restreintes, inégalités oracle et parcimonie. Elle s'appuie aussi sur les notes de théorie des probabilités, de statistique bayésienne et d'analyse de survie.

高维与结构化推断

我的研究通过统计结构进入高维问题。环境参数维数可以超过有效样本量,但稀疏性、分组稀疏性、受限曲率或预测变量等价关系能够降低有效复杂度,从而使估计、选择与不确定性量化成为可能。

有效维数与受限几何

对于真实活动集为 \(S_0\) 的稀疏目标,通常无法获得全局强凸性;真正需要的是扰动锥上的曲率,例如

\[ \frac{\|X\Delta\|_2^2}{n} \geq \kappa^2\|\Delta_{S_0}\|_2^2, \qquad \|\Delta_{S_0^c}\|_1\leq c\|\Delta_{S_0}\|_1 . \]

分组模型用块范数与分组锥代替逐坐标稀疏性。这类不等式把随机分数控制与确定性的似然几何连接起来,并决定 oracle 界、支持集恢复或局部高斯近似能否成立。

删失似然中的分组稀疏性

Cox 回归的分组尖峰-厚尾 Lasso研究协变量按具有科学意义的组给出、结局存在右删失时的变量选择。其目标函数基于 Cox 部分对数似然

\[ \ell(\beta) = \sum_{i:\delta_i=1} \left\{ x_i^\top\beta -\log\!\sum_{j\in R_i}\exp(x_j^\top\beta) \right\}, \]

并加入分组尖峰-厚尾惩罚。后验纳入概率通过 EM 表示更新,逐块坐标优化则利用部分似然的局部曲率。

增长支持空间与后验正态性

高维结构同样支配稀疏广义线性模型的 Bernstein-von Mises 项目。局部渐近正态性必须在后验相关的支持集族上一致成立,同时模型复杂度必须得到足够强的控制,才能使逐支持集高斯混合集中到真实分量。该项目主要属于贝叶斯渐近理论,但技术核心是受限高维几何。

冗余坐标与稳定推断对象

在后验压缩项目中,相关性产生了许多近乎相同的预测信号坐标表示。因此,相关结构不仅是稀疏性,还包括支持空间上的等价几何。稳定推断可能需要把支持集聚合为区域,而不是强行选出一个精确模型。

数学基础

支撑理论主要见于统计学习笔记,包括集中不等式、覆盖数、正则化、受限特征值、oracle 不等式与稀疏性;同时还依赖概率论、贝叶斯统计与生存分析笔记。