近日，鄭州大學計算機與人工智能學院在人工智能領域頂級學術期刊《IEEE Transactions on Pattern Analysis and Machine Intelligence (IEEE TPAMI)》上發表信息瓶頸理論長篇綜述論文“A Survey on Information Bottleneck”。胡世哲副研究員為該論文第一作者，葉陽東教授為論文通訊作者，鄭州大學為唯一第一作者單位和通訊單位。

信息瓶頸 (Information Bottleneck, IB) 是一種用于模式分析和表示學習的新型信息理論方法，自1999年誕生以來受到了廣泛的關注。它巧妙地平衡了數據壓縮和信息保存，并相應地提高了預測或表示能力。該綜述論文是為了紀念信息瓶頸理論的創始人之一Naftali Tishby教授。

該綜述總結了過去20多年來IB的理論進展和實際應用，系統地探討了IB的基礎理論、優化、擴展模型和面向任務的算法?，F有的IB方法大致分為兩部分：傳統IB和深度IB。前者包含傳統機器學習分析技術優化且不涉及任何神經網絡的IB，后者包括涉及深度神經網絡 (Deep Neural Network, DNN) 的解釋、優化和改進的IB。具體來說，根據技術分類，傳統IB進一步分為三類：基礎IB、信息化IB和傳播IB。根據問題設置分類，深度IB包括：辯論－使用 IB 理解DNN、使用IB優化DNN和基于DNN的IB方法。

本項工作受到國家自然科學青年基金項目、面上項目的資助，并得到了鄭州大學計算機與人工智能學院的支持。

論文鏈接：https://ieeexplore.ieee.org/document/10438074