【點新聞報道】OpenAI 於8月18日正式推出專為18歲以下用戶設計的「ChatGPT for Teens」，透過多層次安全防護與家長監管機制，降低未成年人接觸有害內容的風險。
據外媒報道，「ChatGPT for Teens」系統將自動套用於13至17歲的註冊賬戶，或透過使用模式及賬戶資訊識別出的未成年用戶。
「ChatGPT for Teens」建基於OpenAI過去一年推出的多項功能，包括協助學生逐步解決問題的Study Mode學習模式、年齡預測系統以及多項家長控制功能。青少年版除了整合輔助學習的「Study Mode」外，亦新增功課提醒、測驗、視覺化學習工具，以及可由家長或青少年自行設定啟用時間的「Study Hours」時間管理功能。家長亦可設定「安靜時段」（Quiet Hours），對青少年進行時間管理和防沉迷功能，並在系統偵測到特定嚴重安全風險時收到通知。
在安全防護方面，青少年版ChatGPT禁止聊天機器人暗示自己對用戶懷抱個人情感，或宣稱自己擁有意識，並停用語音模式等部分功能。OpenAI表示，ChatGPT for Teens亦加入適齡保障措施，旨在減少接觸不適合其發展階段或有害內容的機會。此外，家長可將賬號與子女賬號綁定；若系統偵測到自我傷害或輕生等高風險對話，將經由人工審核員審核並去識別化後，即時向家長發出安全警示。
目前，Meta正面臨一宗高風險訴訟，涉及其是否助長青少年及兒童沉迷行為。該案由29名州總檢察長組成聯盟於2023年向Meta提出，潛在賠償金額或高達數千億美元。此外，OpenAI 亦面臨多宗指控其導致用戶產生有害妄想甚至輕生的非正常死亡訴訟。
今年6月，佛羅里達州總檢察長James Uthmeier向OpenAI及其行政總裁Sam Altman提告，指控公司明知產品不安全，仍推出可能傷害用戶的產品，多州總檢察長聯盟亦已展開調查。
美國聯邦貿易委員會亦曾針對包括OpenAI、Meta在內的7家科技公司展開調查，重點關注其產品可能對兒童及青少年造成的負面影響。
收藏
取消收藏
分享
