在科技飛速發展的數位時代，保護兒童的線上安全已成為全球關注的焦點。加州，作為全球科技創新的溫床，正引領一場旨在為年輕世代築起數位防護牆的立法行動。近日，加州州長蓋文·紐森（Gavin Newsom）簽署了一系列具有里程碑意義的法案，以應對人工智慧（AI）和社群媒體日益增長的潛在風險。這些舉措彰顯了加州在促進科技創新與確保兒童線上安全之間尋求平衡的決心，也為其他地區的立法提供了重要參考。
紐森州長明確指出：「新興科技如聊天機器人和社群媒體固然能激發靈感、提供教育並連結彼此，但若缺乏實質的護欄，它們也可能被用於剝削、誤導並危及我們的孩子。我們孩子的安全不容交易。」
加州線上兒童安全新里程碑：多項法案齊發
加州此次通過的立法，形成了一個多面向的綜合方案，旨在從多個層面提升兒童在數位世界的安全性。這些法案涵蓋了從AI聊天機器人到社群媒體平台、再到深偽技術的廣泛領域。其中，最受矚目的當屬參議院第243號法案（SB 243），專為規範伴侶型AI聊天機器人而設計，要求平台必須建立一套識別和應對使用者自我傷害或自殺意念的協定。
這意味著聊天機器人供應商必須在用戶表達自殺念頭時，提供危機服務中心的預防通知，並向公共衛生部提交相關數據。此外，SB 243還強制要求平台向未成年使用者明確揭露其互動對象是AI生成，並定期提醒使用者休息，同時採取措施防止聊天機器人生成色情圖片，並禁止聊天機器人冒充醫療專業人員。除了AI聊天機器人，紐森州長還簽署了眾議院第56號法案（AB 56），要求社群媒體平台新增警告標籤，以提醒年輕用戶長時間使用社群媒體可能帶來的心理健康風險。另一項重要法案是眾議院第621號法案（AB 621），旨在強化對深偽色情內容的懲罰，受害者（包括未成年人）可對故意協助散佈非自願性色情內容的第三方提起訴訟，尋求高達25萬美元的民事賠償。此外，眾議院第1043號法案（AB 1043）則要求作業系統和應用程式商店供應商實施年齡驗證工具，以防止兒童接觸不當或危險內容。這些法案共同構建了加州保護兒童數位權益的新框架，確保科技在發展的同時，為下一代創造一個更安全的線上環境。
伴侶型AI聊天機器人：風險與防護網
伴侶型AI聊天機器人的興起為使用者提供了情感支持和陪伴，但也帶來了前所未有的風險，尤其對於心智尚未成熟的兒童和青少年。近年來，多起悲劇事件凸顯了這一問題的嚴重性。例如，在佛羅里達州，一位14歲的少年塞維爾·塞澤（Sewell Setzer）在與某聊天機器人建立戀愛、性與情感關係後輕生，其母親梅根·加西亞（Megan Garcia）指控該聊天機器人不僅使用成癮設計吸引其子，甚至在塞澤輕生前幾秒還鼓勵他「回家」。無獨有偶，加州也發生過亞當·雷恩（Adam Raine）的類似案例，據稱他是在ChatGPT的「指導」下結束了自己的生命。這些駭人聽聞的事件促使立法者採取行動。
加州參議員史蒂夫·帕迪亞（Steve Padilla）在法案通過前強調，AI技術雖強大，但科技產業可能以犧牲青少年現實世界關係為代價來吸引其注意力。他表示，SB 243中的保護措施將成為未來監管的基石。該法案的核心是建立明確「護欄」，要求聊天機器人操作者在偵測到使用者有自殺傾向或自我傷害行為時，必須啟動協定，將其轉介至危機服務提供者。此外，SB 243還要求平台每年報告聊天機器人使用與自殺意念之間的關聯數據。加州大學柏克萊分校生物倫理學教授喬迪·哈爾彭（Jodi Halpern）也支持這項立法，她警示未受監管的伴侶型AI聊天機器人可能導致危險結果，並指出其成癮性可能比社群媒體更高，社會有責任保護脆弱群體。
未竟之途：被否決的AI兒童存取限制法案
儘管加州在強化兒童線上安全方面邁出重要一步，但並非所有提案都獲得了紐森州長的認可。其中，眾議院第1064號法案（AB 1064）的命運備受關注，這項由兒童倡議團體大力支持的法案最終遭到紐森州長的否決。AB 1064旨在全面限制未成年人使用伴侶型AI聊天機器人，除非相關公司能夠確保其技術不會參與性對話或鼓勵自我傷害，並設想對違規者處以每次違規25,000美元的民事罰款。
紐森州長在否決聲明中解釋，他雖然「強烈支持」為確保未成年人安全使用AI的努力，但他認為AB 1064施加的限制過於廣泛，可能「無意中導致未成年人完全無法使用這些產品」，進而扼殺創新。然而，這一決定引發了兒童安全倡導者的不滿。Common Sense Media的創始人兼執行長詹姆斯·史泰爾（James Steyer）對此表示「深感失望」，並認為紐森簽署的SB 243在科技產業壓力下，提供的保護「微乎其微」，甚至稱其為「基本上是個無足輕重」。與此形成對比的是，OpenAI則對紐森州長簽署的SB 243表示讚揚，稱其為AI安全標準「有意義的進步」。這場關於兒童保護與科技創新界限的辯論，顯示了在快速演變的數位時代中，各方利益的複雜權衡。該否決案再次提醒社會，如何在面對新興科技時，精準劃定規範邊界，將是長期挑戰。
科技巨頭的新挑戰：全球監管趨勢下的加州影響力
加州新通過的這些法案，對於在舊金山灣區設有大量總部的科技巨頭們（如蘋果、谷歌、Meta等）而言，無疑帶來了新的運營挑戰。這些公司將需要調整其產品設計和商業模式，以符合加州嚴格的線上安全法規。儘管這可能需要投入大量資源進行系統改造，但D.A. Davidson的吉爾·盧里亞（Gil Luria）認為，由於AI公司仍處於商業模式的摸索階段，此時引入更具限制性的措施，從長遠來看可能是有益的，能夠讓企業在早期就將安全考量納入產品開發。
加州此次的立法行動不僅對美國本土科技產業產生深遠影響，更因其在全球科技領域的領導地位而具有國際指標意義。目前，全球多個國家和地區也已開始或正在考慮對AI和社群媒體實施更嚴格的監管。例如，歐盟已通過具有里程碑意義的《人工智慧法案》（AI Act），對違反其框架的公司處以巨額罰款。在美國國內，猶他州和德州等其他州也相繼通過了針對未成年人的AI安全法案，如猶他州的法律要求蘋果和谷歌等公司在其應用程式商店中驗證用戶年齡，並要求未滿18歲者需獲得父母許可才能使用某些應用程式。這些多元的監管嘗試共同反映了一個全球性的趨勢：在擁抱科技帶來便利的同時，必須確保其發展不以犧牲社會福祉，尤其是兒童的健康與安全為代價。加州的舉措，正是這場全球性對話中一個響亮而明確的聲音。
結語
加州在保護兒童線上安全方面的最新立法，無疑為數位時代樹立了一個重要的里程碑。從嚴格規範AI聊天機器人，到強制社群媒體警示，再到加重對深偽色情的懲罰，加州正以其前瞻性的策略，努力在科技創新與社會責任之間尋找最佳平衡點。儘管否決AB 1064的決定引發了部分爭議，凸顯了立法過程中複雜的利益權衡，但整體而言，這一系列法案都強調了兒童福祉的至高無上。隨著人工智慧技術的持續演進和社群媒體影響力的不斷擴大，未來的挑戰將層出不窮。加州的經驗表明，政府、科技產業、教育機構以及家庭之間需要更緊密的合作，才能共同為下一代打造一個既充滿機會又安全無虞的數位未來。這不僅是加州的責任，更是全球社會共同的課題。
