素有“AI 教父”之稱的 Geoffrey Hinton 日前在接受紐約時報采訪時高調透露，他已在上個月辭去了 Google 副總裁和工程 fellow 的職務，目的是為了能不受制約地警告人們警惕 AI 的潛在風險。Geoffrey Hinton 擔心 Google 會為了和 ChatGPT、Bing 等服務競爭，而放松對公開發布 AI 的約束，而這也許會引發一系列的倫理問題。

在短期內，Hinton 認為生成性 AI 或將引發不實信息的狂潮，而在未來人工智能不僅會消滅“繁重的工作”，許多職業的從業者都可能被其取而代之。更長遠來看，Hinton 對完全自主武器誕生的可能性以及 AI 模型從訓練數據中習得奇怪行為的趨勢都感到擔憂。隨著這些問題中有許多都只存在于理論層面，但 Hinton 覺得若沒有及時準備好相關法規和有效的控制措施，那這種升級將變得無法遏止。

Hinton 對 AI 的立場是從去年開始轉變，當時 Google、OpenAI 等公司都已經開始開發在 Hinton 認知中優于人類智能的 AI 系統。他認為 AI 在過去五年里發展神速，而未來五年可能發生的事情將是“非常可怕”的。不過在發給主站的聲明中，Google 首席科學家 Jeff Dean 強調他們仍將致力于采取“負責人的方法”，并對“新出現的風險”保持警惕。

Hinton 在職業生涯中研究的重點領域便是對 AI 至關重要的神經網絡，他最為人所熟知的成就是在 2012 年開發出了一套能透過圖像訓練辨識物體的神經網絡方案。Google 在 2013 年收購了 Hinton 的 DNNresearch 初創公司，生成式 AI 能發展到如今的程度，Hinton 當年發明背后所用到的技術也是起到了一定的推動作用的。

實際上，除了 Hinton 以外，業界有不少專家都曾提議放慢 AI 的發展節奏。以 Elon Musk、Steve Wozniak 為首的多名科技領袖、AI 從業者在三月末時便簽署了公開信，呼吁人工智能實驗室和相關企業在至少六個月內不要訓練超過 GPT-4 的技術。作為行業最杰出的人物之一，Hinton 的表態也是有著相當份量的吧。