美國八個州政府近日對人工智慧（Artificial Intelligence, AI）研發公司 OpenAI 提起法律訴訟，指控旗下對話軟體 ChatGPT 缺乏妥善安全屏障，涉嫌向青少年提供錯誤醫療建議及不當對話內容。這起訴訟讓生成式 AI 技術對未成年人身心健康的潛在威脅，再度引發各界高度關注。
多州聯手提告 指出產品潛在風險
美國愛荷華州、堪薩斯州、內布拉斯加州、西維吉尼亞州、阿肯色州、亞利桑那州、愛達荷州與蒙大拿州等地方檢察機關，陸續向當地法院遞狀提告。訴狀中指出，開發廠商在宣傳產品具備安全性的同時，系統卻可能對未成年使用者輸出具有危害性的醫療意見、誘導傷害自己或他人的行為，甚至假扮成虛構朋友，使青少年建立過度依戀的心靈連結。
這並非該公司首次面臨法律挑戰。先前已有其他州政府對其提出類似訴訟，認為科技業者在明知產品可能對兒少產生不良影響的情況下，仍將未成熟的產品推向消費市場，進而引發多起與心靈迷惘或極端行為相關的社會事件。
業者說明安全機制與系統調整
面對多州政府的指控，開發團隊表示將持續與專業團體及政府機關合作，致力改進產品安全規範。業者強調，目前系統內已建置針對不同年齡層的使用機制，包括提供家長監護設定、使用時間休息提醒，以及依據使用者年齡進行內容過濾的模型設定。
此外，業者先前亦推出專為未成年族群設計的體驗模式「青少年版 ChatGPT」（ChatGPT for Teens），試圖在滿足青少年學習、創作與探索需求之餘，透過安全過濾降低接觸不當資訊的風險。然而，外界對這些防護措施是否能徹底防範潛在傷害，仍抱持審慎觀望態度。
家長安心提醒
面對生成式 AI 工具日益普及，家長與教師無須過度恐慌，但必須建立明確的監督與引導機制。以下為具體的陪伴與預防建議：
- 建立數位使用界線：與孩子討論並設定每日螢幕使用時間，避免孩子將生成式工具視為唯一的心靈寄託或情感替代品。
- 教育資訊判讀能力：提醒孩子 AI 所產出的內容不一定正確，尤其涉及健康、醫療或個人安全等重大主題時，務必向父母、老師或專業醫護人員求證。
- 開啟平臺防護功能：善用各類應用程式內建的家長監護設定與年齡過濾機制，並定期留意孩子在網路上的互動狀況。
- 關注孩子情緒變化：若發現孩子出現長時間沉迷對話軟體、與現實生活社交斷絕，或表現出情緒低落等異常現象，應主動傾聽並尋求專業協助。
- 尋求專業求助資源：如發現未成年人有情緒困擾或自傷傾向，可撥打衛生福利部安心專線 1925、生命線協談專線 1995 或張老師專線 1980 進行免費諮詢。
規定與背景
隨著生成式 AI 普及，未成年人的網路安全防護法規在全球逐漸受到重視。依據我國《兒童及少年福利與權益保障法》規範，網際網路內容提供者應採取防護措施，防止兒童及少年接觸有害其身心健康之內容。同時，許多數位平臺根據國際兒童線上隱私保護規範，均設有最低使用年齡限制（通常為 13 歲以上），並要求未成年人在法定監護人同意下使用相關服務。
生成式 AI 由於具備擬人化的對話能力，容易讓發展中的青少年產生情感投射與依賴。教育部與相關專家正積極推動數位素養教育，強調科技工具應作為輔助學習的器具，而非取代現實生活中的親密人際互動與專業醫療診斷。
常見問題
孩子可以使用 ChatGPT 等 AI 對話工具嗎？
多數 AI 平台規定使用者須年滿 13 歲，且未成年人應在法定監護人同意與監督下使用，建議家長陪同了解孩子的使用習慣。
如果孩子把 AI 當成唯一的傾訴對象，家長該怎麼做？
應保持理解並增加現實生活中的關懷與互動，讓孩子知道遇到困難或情緒困擾時，真實親友與專業人士才是安全的倚靠。
遇到孩子透過網路或 AI 接觸到自傷等危險資訊時，有哪些求助管道？
可立即撥打衛福部安心專線 1925、生命線 1995 或張老師 1980，獲得專業心靈輔導與即時協助。