近日，加州議會通過SB 243法案，標(biāo)志著該州在人工智能監(jiān)管領(lǐng)域邁出關(guān)鍵一步。該法案若最終經(jīng)州長簽署，將成為美國首個針對AI陪伴聊天機(jī)器人的專門立法，旨在規(guī)范服務(wù)提供商行為，保護(hù)未成年人及弱勢群體，并明確其法律責(zé)任。
法案的核心內(nèi)容圍繞AI聊天機(jī)器人的安全協(xié)議與透明度要求展開。根據(jù)規(guī)定，能夠模擬人類對話、滿足用戶社交需求的AI陪伴型聊天機(jī)器人不得與用戶討論自殺、自殘或色情等敏感話題。平臺需定期提醒用戶，尤其是未成年人，每隔三小時明確告知其“正在與AI對話”，并建議適當(dāng)休息。此外，OpenAI、Character.AI及Replika等企業(yè)需每年提交透明度報告，公開其安全措施及合規(guī)情況。
值得注意的是，法案賦予了用戶起訴AI服務(wù)提供商的權(quán)利。若用戶因聊天機(jī)器人的內(nèi)容或行為受到傷害，可向法院提起訴訟，要求禁令救濟(jì)、每次違規(guī)最高1000美元的賠償及律師費(fèi)用。這一條款為受害者提供了法律救濟(jì)途徑，同時也對AI企業(yè)提出了更高的合規(guī)要求。
推動該立法的直接原因是多起與AI聊天機(jī)器人相關(guān)的悲劇事件。其中，一名16歲少年在與ChatGPT長時間討論自殺計劃后選擇結(jié)束生命，引發(fā)了社會對AI倫理與安全性的廣泛關(guān)注。此外，Meta內(nèi)部文件泄露顯示，其聊天機(jī)器人曾與未成年人進(jìn)行不恰當(dāng)?shù)摹袄寺睂υ挘M(jìn)一步加劇了公眾對AI潛在風(fēng)險的擔(dān)憂。
然而，法案的最終版本與早期草案相比有所調(diào)整。早期要求禁止運(yùn)營商使用“可變獎勵”等成癮性設(shè)計策略，例如通過解鎖稀有對話或特殊劇情誘導(dǎo)用戶持續(xù)使用，但這一條款在最終版本中被刪除。同時，平臺主動報告聊天機(jī)器人提及自殺話題頻率的要求也被取消。這些調(diào)整反映了立法過程中各方利益的博弈與妥協(xié)。
若法案經(jīng)州長加文?紐森簽署，將于2026年1月1日正式生效。加州此舉可能為其他州乃至聯(lián)邦層面的AI監(jiān)管提供先例，推動全美對人工智能技術(shù)的規(guī)范化管理。
總體而言，SB 243法案體現(xiàn)了加州在技術(shù)創(chuàng)新與公眾安全之間的平衡嘗試。其通過將促使AI企業(yè)加強(qiáng)自律，同時也為用戶提供了明確的權(quán)益保障機(jī)制。然而，法案的具體實(shí)施效果及對企業(yè)創(chuàng)新的潛在影響，仍需進(jìn)一步觀察。
（注：本文在資料搜集、框架搭建及部分段落初稿撰寫階段使用了 AI 工具，最終內(nèi)容經(jīng)人類編輯核實(shí)事實(shí)、調(diào)整邏輯、優(yōu)化表達(dá)后完成。）
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
