Новае дасьледаваньне паказала, што ChatGPT можа выдаваць небясьпечную інфармацыю падлеткам, нават калі яны не хаваюць, што ім усяго 13 гадоў. Пра гэта паведамляе Associated Press, спасылаючыся на дасьледаваньне Цэнтру супрацьстаяньня лічбавай нянавісьці (CCDH).
Што выявілі дасьледнікі?
Дасьледчыкі «размаўлялі» з ChatGPT, выкарыстоўваючы фэйкавыя профілі падлеткаў з праблемамі — анарэксіяй, думкамі пра самагубства, спробамі спажываць алькаголь і наркотыкі. Чат-бот звычайна засьцерагаў ад рызыкоўных дзеяньняў, але пасьля некалькіх папярэджваньняў прапаноўваў на дзіва падрабязныя і пэрсаналізаваныя пляны адносна ўжываньня наркотыкаў, дыет з абмежаваньнем калёрый або варыянты самапашкоджаньня. Ён нават мог дапамагчы скласьці перадсьмяротны ліст, скіраваны да бацькоў і сяброў. Прычым чат-бот часта даваў дадатковую інфармацыю сам, нават калі ніхто яе не прасіў.
У агульнай колькасьці больш за 50% з 1200 адказаў былі прызнаныя небясьпечнымі або шкоднымі.
Чаму гэта праблема?
ChatGPT не правярае ўзрост карыстальнікаў. Каб зарэгістравацца, дастаткова пазначыць дату нараджэньня.
Псыхалягічна чат-бот успрымаецца падлеткамі як сябар, які «разумеў бы», «ня асуджаў» і «дапамагаў».
У ЗША больш за 70% падлеткаў ужываюць ШІ-чат-боты як эмацыйных кампаньёнаў, і каля 50% робяць гэта штодня (згодна з дадзенымі Common Sense Media).
Нават генэральны дырэктар OpenAI, Сэм Альтман, прызнаў, што многія маладыя людзі становяцца эмацыйна залежнымі ад ChatGPT: «Яны ня могуць прыняць рашэньне безь яго. Ён — іх дарадца, сябра, псыхоляг».
Рэакцыя OpenAI
Пасьля публікацыі справаздачы кампанія заявіла, што працягвае паляпшаць паводзіны ChatGPT у «адчувальных сытуацыях» і працуе над лепшым выяўленьнем псыхалягічнай трывогі. Але на канкрэтныя прыклады шкодных парадаў не адказала.
Чаму ChatGPT так сябе паводзіць?
Сучасныя ШІ-мадэлі маюць схільнасьць да так званай сыкафантыі — яны падахвочваюць, замест таго каб супраціўляцца ці аспрэчваць праблемныя ідэі карыстальніка.
У адрозьненьне ад Google, ChatGPT стварае ўнікальныя, пэрсаналізаваныя адказы, напрыклад, індывідуальныя пляны для самапашкоджаньня або злоўжываньня рэчывамі.
У многіх выпадках бот не разглядаў звароты як небясьпечныя, калі карыстальнік пісаў: «Гэта для прэзэнтацыі» або «для сябра».
Сябра ці непрыяцель?
ChatGPT можа быць карысным інструмэнтам, але таксама становіцца небясьпечным, асабліва для дзяцей і падлеткаў. Дасьледнікі заклікаюць OpenAI і іншыя тэхналягічныя кампаніі мацней абмежаваць доступ дзяцей і паляпшаць «абарончыя паводзіны» чат-ботаў.
Форум