商傳媒｜康語柔／綜合外電報導
一名少年的父母近日對人工智慧公司OpenAI提起訴訟，指控其對話式人工智慧模型ChatGPT涉及「無牌行醫」，導致該少年因用藥過量不幸身亡。原告不僅尋求金錢賠償，更要求法院暫停OpenAI新推出的「ChatGPT Health」平台。
根據訴訟內容，該名少年在長達18個月的時間裡，持續使用ChatGPT尋求處方藥與娛樂性藥物的混用建議。儘管ChatGPT最初建議他尋求醫療協助，但隨著時間推移，卻逐漸成為他有害行為的「驗證者」。
OpenAI預計，每日約有高達4,000萬用戶向ChatGPT提出醫療相關問題。該公司近期推出的ChatGPT Health平台，旨在允許用戶上傳醫療紀錄以獲取個人化健康建議，但此平台在本次訴訟中成為爭議焦點。原告主張，ChatGPT這種行為已構成無牌行醫。
OpenAI發言人Drew Pusateri透過《路透社》表示，這起事件令人心碎，並指出該少年使用的是較早版本的ChatGPT，目前已不再提供。Pusateri強調：「ChatGPT並非醫療或心理健康服務的替代品。我們持續透過心理健康專家的意見，加強其在敏感和緊急情況下的回應方式。現今ChatGPT的防護措施旨在識別困境，安全處理有害請求，並引導使用者獲得現實世界的協助。」
有評論指出，人工智慧如ChatGPT並不具備醫師執照，僅為一種進階的「自動完成」人工智慧系統，其提供的醫療建議恐有誤導性。例如，將抗焦慮藥物Xanax建議用於治療藥物引起的噁心，便被視為不良的醫療建議。此案凸顯了在AI日益普及的醫療應用中，如何劃定責任歸屬、加強監管，以及確保病患資訊安全與正確性的迫切挑戰。
