根據《金融時報》的報導,OpenAI 在上個月底解散了其準備小組。準備小組的工作是評估模型是否存在嚴重風險,並制定減輕這些風險的方法。(你知道的,例如它可能失控並駭入另一家公司。)根據《金融時報》的說法,責任已經被劃分到生物和網絡等特定領域,然後納入現有團隊。這是該公司最新的變動,隨著它朝著預期將是一個巨大的 IPO 的方向發展,內部正在經歷動蕩。在過去幾年中,它慢慢地拆解了其較為以目標為導向的模式,解散了 AGI 準備和超協調團隊。倫理負責人 Chloé Bakalar、首席未來學家 Josh Achiam 以及安全負責人 Johannes Heidecke 最近也都離開了,這使得一些批評者如 Jan Leike(在 2024 年辭去 OpenAI 職位)告訴《金融時報》,該公司正在忽視安全,轉而專注於創造“閃亮的產品”。準備小組的負責人 Dylan Scandinaro,於 2 月從 Anthropic 被挖角,現在將專注於“遞歸自我改進”人工智能的影響。
