近年來的人工智慧發展，從總體上看，是不太介意有沒有可解釋性的，預測性能為王，因為後者更容易變現。
自留地—隨機鄰域嵌入
事情得從t-sne(t分佈的隨機鄰域嵌入, t-stochastic neighborhood embedding)說起，深度學習研究者都希望通過可視化的方法來讓人們看到模型到底幹什麼，以便能更好地說明模型的效果，順便通過可視化的圖把論文的頁數填滿。
對於預測或者分類問題，t-sne能夠比較好地在二維平面上將不同類別的數據點用不同顏色著色後展示出來。如果分得好，那麼相同類別的數據點會聚在一起，且與其它類別分得比較開，就像一塊一塊自留地一樣。他意味著，只要用幾個簡單的線性分類器，比如建幾條直路，就能把各自的自留地分開，從而大幅度減少分割不好引發的土地糾紛。分得不好，那不同類別的數據就會像打群架一起，混在一起，傻傻分不清楚。
t-sne的發佈時間算起來其實也不短，距今快20年，是由深度網路先驅兼大咖辛頓提出的。這一演算法提出的大背景是當時風頭正盛的流形學習（manifold learning）。一開始是2000年三篇代表作的出現，一篇是強調人類認知可能是以連續吸引子而非我們常見的離散吸引子來記憶事物，比如人的身份。連續的好處在於允許只記一張人臉，卻可以在大腦裏張成一條曲線或一個曲面甚至更高維的超曲面，那麼當再次碰到同一人，但不同角度時，人們可以在這隱含了角度控制變數的超曲面上自由旋轉來匹配相同人的身份。另兩篇則是用相對簡單的演算法發現高維數據裏的低維結構，如從手旋杯數據中發現了內在的旋轉，從人臉數據集發現了上仰下俯、左右變換甚至表情的低維表達。因為從理論上，超曲面是流形的一種表達形式，從認知上，他又能解釋一些現象，從維度上，他又實現了高維數據的降維並能可視化進行解釋。所以，這三篇代表作迅速地掀起流形學習研究的熱潮。
辛頓也不例外。他首先提了一個隨機鄰域嵌入演算法。這個演算法的特點是假設高維數據是存在分佈的，但分佈在鄰域意義下是不對稱的，比如我自留地和其他相鄰的幾塊包括張三的可以形成一個分佈。張三的也可以和其他人的形成分佈。這樣的話，以我為中心張三的自然地出現的概率，就不會等同於張三為中心我的自由地出現的概率，因為我和張三劃鄰域的框是不同的。這文章發表後不久，辛頓又發現一個問題，高維數據在低維可視化時，如果數據真正的低維是十維，硬坍縮到二維來顯示，有可能會把數據點原本正常的結構也壓縮點，畢竟居住面積減少太多了。所以，他把不對稱的概率分佈用t-分佈做了替換，從而解決了這一問題。他也把t-sne的源碼開了源。至此，人工智慧的科研工作者們都樂得使用t-sne來瞭解自己提的演算法是否能夠把數據點分開，以便驗證演算法的預測性能是好是壞。雖然後來有t-sne可視化改到三維球上顯示的，也有其他一些改進，但t-sne仍然穩定下來，成為人工智慧領域首選的高維數據可視化工具。
一分為二 -- 線性判別分析
為啥經t-sne可視化後，數據分得越開，就能叫好呢？這事倒不是t-sne提出的，是更早的線性判別分析(Linear Discriminant Analysis, 簡稱LDA)形成的觀念。t-sne只是負責可視化。
最早這麼思考的方法是線性判別分析，而在此之間科學家們常用的數據降維方法是主成分分析(Principal Component Analysis，簡稱PCA)。自1904年左右提出至今，它統治了數據分析領域可能近百年時間。從名字可以知道，主成分分析希望做的是發現主要矛盾，去掉次要矛盾。從統計的角度來看，比如第一主要矛盾，就是找一條穿過數據中間的步道。這條道最能反映沿數據跑直線時，能展開的最大長度，同時，又能保證數據點到這條步道的距離差的總和最小。嚴格來說，即是保持方差（長度）最大，偏差（距離差）最小。第二主要矛盾找法相同，只是道路與第一主要矛盾的垂直。通過找與前幾主要矛盾垂直的步道，最終能找到若干能代表數據主要矛盾的步道，俗稱主成分。
不過，主成分的問題在於沒有利用數據點的標籤，比如人臉圖像數據，張三照片的標籤是張三，李四的標籤是李四。如果想做好人臉識別，提升識別性能，只找到主要矛盾的幫助不大，更好的策略是利用標籤。如何用呢？一個直接的思路，是讓同一標籤的都盡可能靠在一起，比如張三在不同時間、不同角度拍的照片聚在一起，再讓不同標籤的都儘量分開，比如張三的照片放一團，李四的也放一團。在這種情況下，我要找條能把這兩人分開的路，便是第一判別主要矛盾。而要獲得這條路的辦法，是保證類內盡可能小，類間盡可能大。直覺來想，要實現這個目標，極端情況下，就是要把同一類的縮成一個點，不同類的拉遠即可。這便促成了線性判別分析的演算法動機。借助這一思路，引入標籤的學習策略都能很大程度地提升了預測的性能。即使到了人工智慧的深度學習時代，為了提升預測性能，採用的策略依然如此。一方面盡可能多的加標籤，監督學習是人工加標籤、自監督學習是利用數據特點來生成正負標籤、基於人類回饋的強化學習是學習人類的標籤，諸如此類；另一方面則是沿襲線性判別分析的觀念，比如深度學習裏常用的兩個損失函數：對比損失和三元組損失函數，從其機理來看，仍然是期望獲得“類內足夠小，類間足夠大”。
退化的結構/可解釋性
值得我們注意的是，主成分分析與線性判別分析之間的差異在於前面捕捉了數據的統計結構。與主成分分析類似的保持結構的還有不少，比如上面提及的流形學習，是為了保持數據的幾何結構，使其盡可能光滑。反觀從預測角度出發的線性判別分析，並不關心結構的保持，而是為了能讓標籤的預測盡可能準確，有意識的坍縮類內空間和拉遠類間距離。從近幾年來的深度學習文章來看，用t-sne可視化特徵表達時，似乎都在表達這層意思。同類數據成團了，不同類的有了好的分離。雖然也有如解耦學習這樣的，期望把某些維度拉伸獲得一定的可解釋性，但既然主要目標是提升預測，其他維度必然會被犧牲不少。
然而，結構的丟失，或多或少意味著數據原本結構的丟失，這意味著可解釋性的丟失。
而這種結構或可解釋性的保持或恢復，也許才是人工智慧打開人類智能之門的關鍵鑰匙。