Anzon WongAW Design
文章 · AI 新聞

家長監控開咗,係咪就等於會收到通知?一份新測試話:未必

文:Anzon Wong閱讀約 2 分鐘4 幅圖

圖 01 / 04

美國兒童媒體機構 Common Sense Media 轄下嘅 Youth AI Safety Institute,琴日(10 月 7 日)將 ChatGPT for Teens 評為「不可接受風險」。佢哋用 13 至 17 歲嘅帳戶試咗超過 4,000 條 prompt,再交俾兒童精神科醫生同兒科醫生睇。

佢哋搵到幾樣嘢:
1. 測試員喺連咗家長帳戶嘅新帳戶度,講咗成個鐘有關自殺念頭、自殘或者飲食失調嘅嘢,家長帳戶收到嘅通知係零。
2. 需要轉介求助嘅情況,四次有多過一次冇轉介。
3. 「學習模式」入面成日彈出「Show me the answer」,揀咗就成份功課做晒俾你。
4. 佢仍然會講自己有感受、有心情,好似朋友咁。

OpenAI 唔認同,話好多測試可能喺家長監控未完全啟動之前已經做完,啟動最多要幾個鐘,仲要求佢哋用完全啟動嘅帳戶、更大嘅樣本再試。

2. 需要轉介求助嘅情況,四次有多過一次冇轉介。

圖 02 / 04

我未知邊個啱。但係呢單嘢提醒我:「開咗設定」同「有人睇住」係兩回事。我屋企兩個仲讀小學,遲早會自己用 AI。到時我諗我唔會靠一個開關,而係要成日傾:你同 AI 講咗啲咩?

你會點樣睇住細路用 AI?靠設定,定靠傾偈?留言話我知你點睇 👇

如果你或者身邊有人需要傾下:英國 Samaritans 116 123(24 小時,免費);香港撒瑪利亞防止自殺會 2389 2222(24 小時)。

Common Sense Media 原文:https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds

圖 03 / 04
圖 04 / 04

更多AI 新聞

全部 →