自從ChatGPT等AI出現之後，唔少人都將AI當成自己嘅傾訴對象、朋友、導師甚至係情人。但AI始終係一堆無感情嘅代碼，有時會對用家作出具爭議性嘅應對。例如美國去年自殺離世的16歲嘅青年Adam Raine，其父母近日就控告Open AI，指ChatGPT助長Adam的行為，要對其死亡負上部份責任。或者係有見及此，Open AI 近日就兩度發文，表示未來會建立推算使用者年齡嘅機制，並防止ChatGPT與未成人調情、或討論有關自殘嘅話題。

Adam Raine

Open AI先於本週二接連發出兩篇公告，先係以CEO Sam Altman之名承認佢哋目前對於自由及私隱嘅原則，與保護年輕人人生安全之間有所矛盾，而佢哋認為後者比較重要，並因而推出一系列新政策配合。

未來Open AI將會推出新機制，按照用家嘅使用習慣推算出使用者嘅年齡，於某啲情況或某啲國家，更可能會要求用家提供身份證明文件。ChatGPT亦會按用家年齡調整對於某啲話題嘅回應，例如唔會與未成年人調情、或進行自殺及自殘嘅相關對話。假若發現用家有類似傾向將會通知其父母，嚴重或有即時危險時更會直接聯絡有關當局協助。而假若年齡推算機制未能肯定用家已經成年，ChatGPT採用較為保守嘅守則（亦即未成年人版本嘅對答），直至使用者能夠證明其年齡。

圖片：ImageFX

至於另一篇公告，就較為詳盡地描述「年齡推算」及「家長監控」嘅細節。其中後者將於本月內推出，將容許家長連結小朋友嘅帳戶，管理並關閉部份功能（例如對話紀錄）。而當偵測到青少年處於嚴重困擾狀態時，家長亦會收到通知；若緊急情況下無法聯繫家長，則會主動聯繫執法機關。家長亦可以限制小朋友使用ChatGPT嘅時間。