9 月 17 日消息，OpenAI 昨晚發(fā)布公告，闡述了其在青少年安全、用戶(hù)自由與隱私保護(hù)三個(gè)原則之間的取舍與決策。

OpenAI 表示，這些領(lǐng)域存在一定沖突，因此需要在透明的前提下作出平衡。

OpenAI 強(qiáng)調(diào)，AI 對(duì)話涉及高度個(gè)人化的信息，其敏感程度可類(lèi)比醫(yī)生問(wèn)診或律師咨詢(xún)。公司認(rèn)為，這類(lèi)信息應(yīng)獲得同等的“特權(quán)保護(hù)”，并正積極向政策制定者倡導(dǎo)這一立場(chǎng)。

為此，OpenAI 正研發(fā)更先進(jìn)的安全功能，確保用戶(hù)數(shù)據(jù)即便對(duì)公司員工也保持私密性。但公告同時(shí)指出，在特定情況下仍會(huì)有例外，例如自動(dòng)化系統(tǒng)監(jiān)測(cè)到嚴(yán)重濫用，或涉及生命威脅、他人安全風(fēng)險(xiǎn)、大規(guī)模網(wǎng)絡(luò)安全事件時(shí)，數(shù)據(jù)可能被提交人工審核。

OpenAI 表示，其目標(biāo)是在安全范圍內(nèi)盡可能保障用戶(hù)的使用自由。隨著模型可控性增強(qiáng)，用戶(hù)的自由度也在逐步提升。例如，模型默認(rèn)不會(huì)生成曖昧對(duì)話，但如成年用戶(hù)主動(dòng)提出，則應(yīng)當(dāng)提供；而涉及自殺相關(guān)內(nèi)容時(shí)，模型不會(huì)提供實(shí)施指導(dǎo)，但若是成年用戶(hù)要求幫助創(chuàng)作包含自殺情節(jié)的虛構(gòu)作品，則應(yīng)予以支持。OpenAI 稱(chēng)這一原則為 “把成年人當(dāng)成年人對(duì)待”。

對(duì)于未成年人群體，OpenAI 明確優(yōu)先考慮安全而非隱私和自由。ChatGPT 的使用對(duì)象設(shè)定為 13 歲及以上，公司正在研發(fā)年齡預(yù)測(cè)系統(tǒng)，以區(qū)分未成年人和成年人。

如果系統(tǒng)識(shí)別用戶(hù)未滿(mǎn) 18 歲，將自動(dòng)進(jìn)入青少年專(zhuān)屬模式，屏蔽露骨性?xún)?nèi)容，并在用戶(hù)表現(xiàn)出嚴(yán)重心理困擾時(shí)，可能聯(lián)系家長(zhǎng)或在緊急情況下通知執(zhí)法部門(mén)。

如果無(wú)法確定年齡或信息不完整，系統(tǒng)將默認(rèn)進(jìn)入未成年人模式；成年人則可通過(guò)驗(yàn)證方式解鎖完整功能。

針對(duì)未成年用戶(hù)，OpenAI 制定了更嚴(yán)格的規(guī)則：

不允許生成曖昧對(duì)話；

不參與任何形式的自殺或自殘?jiān)掝}，即便是在文學(xué)創(chuàng)作背景下；

若用戶(hù)表現(xiàn)出自殺意圖，OpenAI 將嘗試聯(lián)系家長(zhǎng)，若無(wú)法聯(lián)系則會(huì)在存在緊急危險(xiǎn)時(shí)上報(bào)有關(guān)部門(mén)。

OpenAI 還宣布，將于本月內(nèi)推出 家長(zhǎng)控制功能，支持家長(zhǎng)：

通過(guò)電子郵件邀請(qǐng)，將自身賬戶(hù)與子女賬戶(hù)（13 歲以上）關(guān)聯(lián)；

管理 ChatGPT 針對(duì)青少年的行為規(guī)則；

控制是否啟用記憶功能與聊天記錄；

在檢測(cè)到青少年處于嚴(yán)重心理危機(jī)時(shí)接收通知（如無(wú)法聯(lián)系到家長(zhǎng)則可能上報(bào)有關(guān)部門(mén)）；

設(shè)定“禁用時(shí)段”，限制青少年在特定時(shí)間段使用 ChatGPT。

此外，面向所有用戶(hù)的提醒功能仍將保留，例如在長(zhǎng)時(shí)間使用時(shí)提示適度休息。