原董事局炒 Altman 前 曾收 OpenAI 員工告密信

路透引述消息人士報導，OpenAI原董事局上週五炒掉現已復職的 CEO Sam Altman 前，曾收到數名公司的研究員來信，信件警告，公司已發現到一種強大AI，可能危害人類。

這個AI項目名為「Q*」，可能成為通用人工智能（AGI）的重大突破，由兩組研究員合併成一組的研究團隊研究。消息人士說，Q*的AGI模式可以解決一些數學問題，雖然其數學能力仍只達中小學學生的程度，但研究員有信心，Q*將會成功。

目前，AI在生成文章及翻譯已有不錯的效果，回答問題的表現有較大差異，這些範疇都有一個共通點，就是可以有多於一個的正確答案。數學只能有一個答案，如果AI能征服數學範疇，其推論能力將更為接近人類智能，可以應用在新的科學研究。

這封「告密信」向董事表示，「Q*」會有潛在危險，但消息人士沒有向路透記者透露，究竟信中稱會有什麼危險。

此前，原董事局只說 Altman 跟董事局的溝通有問題，暗示對方有隱瞞，因此撤換他。過去幾天的消息人士都說，沒有單一事件令董事局認為 Altman 有問題，是多個事件累積下來令董事局對 Atlman 失去信心。

路透報導說，這封信件也只是原董事局炒掉 Altman 的其中一個原因，不是最主要原因，原董事局早對 Altman 有很多不滿，包括AI商業化會否太快。

OpenAI星期二晚已經宣佈讓 Altman 復職，並改組董事局，只有問答網站 Quora 的 CEO Adam D'Angelo 留任，另外2名董事Tasha McCauley 和 Helen Toner 離開，當初發動「兵變」的公司首席科學家 Ilya Sutskever 也要離開董事局，同時加入 Salesforce 前 CEO Bret Taylor 和前財長薩默斯（Larry Summers），Taylor擔任董事局主席。

=====
如果想支持網主更新本blog、Twitter、Facebook等平台，並閱讀深度分析文章，歡迎訂閱我的Patreon，月費只是7.21美元：
patreon.com/dungtaai