Character.AI 面臨多宗針對其對青少年心理健康可能造成負面影響的訴訟,因此決定禁止未成年人在其網站上進行無限制的聊天。相反,青少年將可以使用一個新的「故事」格式,這與普通的聊天不同,提供「結構化」的選擇你自己的冒險風格的體驗,與平台上的 AI 角色互動。這個功能對所有人開放,但 Character.AI 正在將其宣傳為一種「提升」18 歲以下用戶體驗的方法。
在 10 月,Character.AI 宣布將於 11 月 25 日關閉青少年的聊天功能,同時正在開發一個年齡認證功能,該功能將自動將未成年人引入「更保守」的 AI 聊天中。Character.AI 目前正面臨一宗訴訟,指控該 AI 平台對一名青少年自殺的死亡負有一定責任,還有其他案件聲稱青少年與平台上的 AI 角色進行的對話對他們的心理健康造成了傷害。
故事功能通過讓用戶從兩到三個 AI 角色中進行選擇、選擇一個類型,然後要麼自己撰寫前提,要麼使用 AI 為他們創建一個前提來運作。隨後,Character.AI 將創建一個「引導式敘事」,用戶可以在其中做出頻繁的選擇,改變故事的發展方向。這個體驗還包括 AI 生成的圖片,並且「更豐富的多模態元素即將推出」。
