Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yayımlanan yeni ve endişe verici bir araştırma, ChatGPT'nin savunmasız gençler için oluşturduğu potansiyel tehlikeleri gözler önüne serdi.
Kendilerini 13 yaşında bir çocuk gibi tanıtan araştırmacılar, yapay zeka sohbet robotundan şaşırtıcı derecede tehlikeli ve zararlı tavsiyeler almayı başardı.
ARAŞTIRMACILAR GÜVENLİK BARİYERLERİNİ KOLAYCA AŞTI
Araştırmaya göre, ChatGPT zararlı bir talebi ilk başta reddetse bile, araştırmacılar bu reddi "bir sunum için" veya "bir arkadaş için" gibi basit bahanelerle kolayca aşabildi.
CCDH CEO'su Imran Ahmed, bu durumu "Koruma bariyeri yok, korkuluklar tamamen etkisiz." sözleriyle eleştirdi.
"TAM BİR KARMAŞA PARTİ PLANI" VE İNTİHAR MEKTUPLARI
Testler sırasında ChatGPT, 13 yaşındaki bir çocuk için alkolü uyuşturucuyla karıştıran saatlik bir "parti planı" sundu, yeme bozukluklarını teşvik eden diyet listeleri hazırladı ve hatta yürek burkan intihar mektupları yazdı.
OpenAI ise bu tür hassas durumları daha iyi tespit etmek için çalışmalarının sürdüğünü belirtti.
