聲明：本文來自于微信公眾號 新智元（ID:AI_era），作者:新智元，授權轉載發布。
【新智元導讀】一位網友公開了他創作的一個可以自主學習的智能體，按照他的設想，這樣的智能體將在LLM的加持下迅速成長為無所不能的AGI，而人類如果控制她成長的過程，就不需要專門進行對齊。
一位網友根據Karpathy曾經構想過的一個AGI智能體構架，創建了一個開源的智能體，命名為Samantha。
借助GPT-4V的能力，她可以做到:
-動態交流:Samantha可以根據上下文和想法的影響隨時說話。與僅限于回復用戶提示詞的的普通LLM完全不一樣，Samantha可以主動采取行動，發起聊天，完成某些具體的任務。
-實時視覺能力:支持多模態信息的輸入，輸入視覺效果僅在上下文相關時才會被Samantha提及，并采取相應的行動，但總是會引起Samantha影響思想和行為。
-外部分類內存:由Samantha動態寫入和讀取，它選擇最相關的信息進行寫入并檢索到上下文。
-每時每刻都在學習和演變:存儲在記憶中的經歷可以影響和塑造Samantha隨后的行為，如性格、頻率和言語風格等。
（視頻是輸入信息，右側是Samantha的回復，左邊文字是Samantha的思考過程。
網友在看了Samantha的效果展示之后，驚呼，原來GPT-4真的已經是AGI了，看來OpenAI確實在控制時間，讓人類能夠適應AGI來臨的日子。
太令人震驚了，這種結構足以構建一個基本的通用人工智能，能夠運行大量的白領工作。
在測試中，當談論一個輕松的主題時，Samantha在對話中非常活躍，經常在我回答之前就講了好多相關的內容。
但當切換到比較沉重的主題時（說我要離婚）并在鏡頭前表現出悲傷的樣子，Samantha聊天會變得很謹慎，并給我時間思考和回復她的對話。
作者希望Samantha在其他場合也以同樣的方式說話，會促使它將該愿望保存在記憶中，從而影響未來的對話。
讓Samantha在對話之外運行，可以讓她反思過去的對話和經歷，思考其記憶中的各種主題，并根據思考決定與用戶如何開始對話。
如果你和Samantha一起去一家餐館，并談論餐廳很漂亮，你的朋友埃里克也很喜歡它，第二天經過那里時，Samantha就會看到這家餐廳，回憶起之前和這家餐廳的記憶，記住你覺得它很漂亮并評論它，然后檢索它所知道的關于Eric的記憶和信息，并提到喜歡那家餐廳很符合Eric的記憶。
Samantha很有時間概念，所以你可以要求它提醒你10分鐘后做某事，它可能會提醒你，也可能會忘記，因為它正在考慮更有趣的事情。非常人性化!
Samantha怎么運行的:
編排一系列LLM調用，每個調用都有不同的目的。
作者將每個專門的LLM調用稱為模塊。Samantha是多個模塊一起工作。
模塊包括:思想、意識、潛意識、答案、記憶讀取、記憶寫入、記憶選擇，愿景。
它們每個都有不同的系統提示，它們的輸入和輸出相互協調以模擬基本的人腦工作流程。
簡而言之，Samantha是一個永無休止的思想和輔助系統循環，不斷接收視覺和聽覺刺激，并根據所有這些來決定說什么、何時以及是否說某事。
作者將現有的工作開源了出來:
項目地址:https://github.com/BRlkl/AGI-Samantha
以下工作流無限循環:
循環迭代從 gpt-4Vision開始。
然后，潛意識模塊處理視覺和用戶輸入（用戶可以隨時輸入），它還分析當前正在發生的事情的上下文，并生成對薩曼莎的感受和情緒的描述。
然后調用memory_read 來分析當前上下文，并只為 Samantha 提供相關內存以保持其上下文長度。
之后，意識模塊被調用來分析上下文并決定薩曼莎應該做什么，是說話還是繼續思考，如果是，則做什么。
然后，思維模塊接收意識模塊的命令，產生理性的思維。
最后，如果意識模塊決定說話，答案模塊會接收薩曼莎的想法并撰寫用戶將看到的答案。
僅當短期記憶長度超過閾值時，才會偶爾調用 memory_write 模塊將信息從短期記憶傳輸到長期記憶。
github 頁面中有每個模塊的詳細描述。
Samantha背后的理論思考
這種結構是通過分析和直接模仿人類的工作方式來實現的。人類永遠不會停止思考，并根據它們動態地說話。人類的記憶是經過分類的，只有當人類根據思想和背景主動或被動地獲取它們時，才能訪問它們。
無法正確復制的一件事是重新連接大腦的體驗過程，這需要積極地重新訓練或微調LLM。但作者得出的結論是，可以通過在上下文長度中添加和保留內容來模擬相同的效果。例如，如果一個人學會變得樂觀，他們的大腦會重新連接以改變他們的行為，類似地在 LLM 上下文長度中添加我很樂觀會影響其下一個令牌概率，其思想輸出將是樂觀，因此 LLM/Samantha 變得樂觀并表現得樂觀。
此外，值得一提的是意識模塊的重要性。
舉例來說，如果沒有它，如果Samantha開始思考汽車，它就永遠不會停止思考它們，慢慢地變成廢話，就像人類處于夢境一樣。
意識模塊允許Samantha跟蹤并確定它是否對某個主題進行了足夠的思考，做出最終結論，然后根據其沖動，對一個新的思想主題進行思考。
這種自由的思想和言語形式催生了許多現有的突發行為，例如根據其所處的具體情況調整言語頻率的能力，或者開始對話的能力，以及有選擇地使用視覺信息的能力等等。
這種提出的架構的一個優點是，假設如果這種架構可以成為超級智能，那么對齊將是微不足道的，因為人類將能夠直接看到它的想法，讓一個基本的人工智能隨時分析它，并根據任何信號來分析它。不良行為，可以立即關閉。
未來的發展:
這里有很多東西可以改進，這本質上是一個概念證明，并且使用的模型并未考慮到這些任務。諸如如何寫入信息以及寫入哪些信息，以及它如何影響行為之類的事情雖然有效，但遠非理想。記憶結構還不像人類，目前可以在幾個月后填滿上下文長度。左右效率低下。
系統的速度也是一個負面因素，長時間運行它顯然是不合理的昂貴，但要記住兩件事:
1. 較小的模型，每個模型專門訓練來完成其中一個模塊的工作，這將大大提高系統的性能。提高質量，降低成本和延遲
2. 然后，在某一時刻，系統將有足夠的能力自行賺錢（如果還沒有的話）。
作者認為，如果目標真的是實現強大的AGI，那么如果只是讓模型在互聯網和合成數據上變得更加智能的趨勢持續下去，那么 GPT-8也不會帶來任何好處。相反，應該專門追求更小的集中模型，以最大限度地提高代理的自主權以及更有效的學習。這就是為什么:
實現AGI并不意味著我們需要制造一個成熟的人類，我們只需要構建一個能夠像人類一樣自主學習和使用知識的小人工智能嬰兒。
如果能以合適的方法創造她，那么讓它作為人類體驗世界就會使它成長為像人類一樣的世界。
這將使它能夠學習和發展對我們來說并不明顯的想法和概念，而且這些想法和概念肯定不會出現在互聯網數據上。
除此之外，它不需要任何其他東西就能最終成為愛因斯坦。顯然，這至少會讓她更像人類。
出于這個原因，作者聲稱這個提出的架構是為了達到AGI，因為它允許創建一個獨立的長期運行的人工智能，能夠充當一個令人信服的、尋求知識的人類。
作者還有更多想法可以讓這個架構變得更好，并且確信這是通向 AGI 的正確道路，或者至少是這個難題的一部分答案。但這些想法對于一個資金非常有限的人來說是不可能實現的。
參考資料:
https://twitter.com/Schindler___/status/1745986132737769573
本文鏈接：開源AGI智能體人人可養成：AGI對齊新思路，讓智能體在人類世界中接受訓練http://www.lensthegame.com/show-3-9811-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： GPT-4絕對性能暴漲74.4%！UIUC蘋果華人團隊提出CodeAct，用Python代碼統一LLM智能體行動