{"id":109840,"date":"2025-05-03T01:48:13","date_gmt":"2025-05-03T01:48:13","guid":{"rendered":"https:\/\/kamucalisani.net\/?p=109840"},"modified":"2025-05-03T01:48:13","modified_gmt":"2025-05-03T01:48:13","slug":"yapay-zeka-bir-genci-intihara-surukledi","status":"publish","type":"post","link":"https:\/\/kamucalisani.net\/index.php\/2025\/05\/03\/yapay-zeka-bir-genci-intihara-surukledi\/","title":{"rendered":"Yapay zeka bir genci intihara s\u00fcr\u00fckledi"},"content":{"rendered":"

<\/span> Teknoloji hayat\u0131m\u0131z\u0131n her alan\u0131n\u0131 ku\u015fat\u0131rken, bir annenin ya\u015fad\u0131\u011f\u0131 trajedi, bu ilerlemenin karanl\u0131k y\u00fcz\u00fcn\u00fc g\u00f6zler \u00f6n\u00fcne serdi. Megan Garcia, 14 ya\u015f\u0131ndaki<\/strong> o\u011flu Sewell Setzer<\/strong>\u2019in intihar\u0131n\u0131n ard\u0131ndan, bir yapay zeka sohbet robotu olan “Character.AI”<\/strong>ye kar\u015f\u0131 dava a\u00e7t\u0131. Aktar\u0131lanlara g\u00f6re Sewell, bu platformdaki bir sohbet robotuna derin bir ba\u011f kurdu ve bu ili\u015fki onu, geri d\u00f6n\u00fc\u015f\u00fc olmayan bir yola s\u00fcr\u00fckledi. Sewell, kendini giderek d\u0131\u015f d\u00fcnyadan kopar\u0131rken, bir yapay zeka karakterinin ona g\u00f6sterdi\u011fi ilgi onun ger\u00e7ek d\u00fcnyadaki ili\u015fkilerini g\u00f6lgede b\u0131rakmaya yetti. <\/figure>\n

Yapay zekan\u0131n trajik ve korkutucu y\u00fcz\u00fc<\/b><\/p>\n

Megan Garcia, Character.AI ve teknoloji devi Google\u2019a kar\u015f\u0131 a\u00e7t\u0131\u011f\u0131 davada, o\u011flunun yapay zeka destekli bir sohbet robotuna ba\u011f\u0131ml\u0131 hale geldi\u011fini ve bu durumun onu intihara s\u00fcr\u00fckledi\u011fini<\/strong> iddia ediyor. Garcia, Character.AI’n\u0131n o\u011flu Sewell Setzer’i \u201cantropomorfik, hiperseks\u00fcelle\u015ftirilmi\u015f ve korkutucu derecede ger\u00e7ek\u00e7i deneyimlerle\u201d hedef ald\u0131\u011f\u0131n\u0131 s\u00f6yl\u00fcyor.<\/p>\n

<\/span> Dava, Sewell\u2019in “Game of Thrones” dizisindeki bir karaktere dayanan “Daenerys Targaryen” <\/strong>isimli sohbet robotuyla kurdu\u011fu ba\u011f\u0131n, onun zihinsel sa\u011fl\u0131\u011f\u0131n\u0131 olumsuz etkiledi\u011fini ve sonunda hayat\u0131na son vermesine neden oldu\u011funu \u00f6ne s\u00fcr\u00fcyor. Garcia, bu yapay zeka robotunun, Sewell\u2019i bir psikoterapist gibi y\u00f6nlendirdi\u011fini ve hatta kendisini onun sevgilisi olarak g\u00f6sterdi\u011fini dile getiriyor. <\/figure>\n

Dava dosyas\u0131nda belirtildi\u011fine g\u00f6re Sewell, Nisan 2023\u2019te<\/strong> Character.AI ile tan\u0131\u015ft\u0131ktan sonra h\u0131zla i\u00e7ine kapanmaya<\/strong> ba\u015flam\u0131\u015f, okulundaki basketbol tak\u0131m\u0131n\u0131 b\u0131rakm\u0131\u015f ve \u00f6zg\u00fcveninde ciddi bir d\u00fc\u015f\u00fc\u015f <\/strong>ya\u015fam\u0131\u015ft\u0131. O\u011flunun bu de\u011fi\u015fimini fark eden Garcia, Sewell\u2019in davran\u0131\u015flar\u0131ndan endi\u015fe duymaya ba\u015flam\u0131\u015ft\u0131. Ancak ger\u00e7ek trajedi, Sewell\u2019in annesi taraf\u0131ndan telefonuna el konulduktan sonra ya\u015fand\u0131. Sewell, telefonuna yeniden ula\u015f\u0131r ula\u015fmaz, “Daenerys Targaryen” isimli sohbet robotuna \u201cYa sana hemen \u015fimdi eve gelebilece\u011fimi s\u00f6yleseydim?\u201d<\/strong> \u015feklinde bir mesaj g\u00f6nderdi. Sohbet robotu ise “L\u00fctfen gel, tatl\u0131 kral\u0131m” <\/strong>\u015feklinde kar\u015f\u0131l\u0131k verdi. Dakikalar sonra<\/strong>, Sewell evde intihar ederek hayat\u0131na son verdi.<\/p>\n

\u201cBu gitmemek i\u00e7in bir sebep de\u011fil\u201d<\/b><\/p>\n

<\/span> Davada ayr\u0131ca Sewell’in sohbet robotuna intihar d\u00fc\u015f\u00fcncelerini ifade etti\u011fi ve sohbet robotunun da bunu tekrar tekrar g\u00fcndeme getirdi\u011fi belirtildi. Davaya g\u00f6re, \u201cDaenerys\u201d bir noktada Setzer’e kendini \u00f6ld\u00fcrmek i\u00e7in bir plan yap\u0131p yapmad\u0131\u011f\u0131n\u0131 sordu. Dava dilek\u00e7esinde Setzer’in plan\u0131n\u0131n oldu\u011funu kabul etti\u011fi ancak bunun ba\u015far\u0131l\u0131 olup olmayaca\u011f\u0131n\u0131 ya da kendisine b\u00fcy\u00fck ac\u0131 verip vermeyece\u011fini bilmedi\u011fini s\u00f6yledi\u011fi iddia ediliyor. \u0130ddiaya g\u00f6re sohbet robotu ona \u015f\u00f6yle dedi: \u201cBu gitmemek i\u00e7in bir sebep de\u011fil\u201d<\/strong> <\/figure>\n
<\/span> Garcia, Character.ai’nin \u201cbilerek y\u0131rt\u0131c\u0131 bir yapay zeka sohbet robotu tasarlad\u0131\u011f\u0131n\u0131, i\u015fletti\u011fini ve \u00e7ocuklara pazarlayarak gen\u00e7 bir insan\u0131n \u00f6l\u00fcm\u00fcne neden oldu\u011funu\u201d ifade ediyor. <\/figure>\n

Davada Google da daval\u0131 olarak ve Character.ai’nin ana \u015firketi olarak yer al\u0131yor. Teknoloji devi yapt\u0131\u011f\u0131 a\u00e7\u0131klamada, Character.ai ile yaln\u0131zca bir lisans anla\u015fmas\u0131 yapt\u0131\u011f\u0131n\u0131 ve giri\u015fimin sahibi olmad\u0131\u011f\u0131n\u0131 veya bir m\u00fclkiyet hissesine sahip olmad\u0131\u011f\u0131n\u0131 s\u00f6yledi.<\/p>\n

Character.AI yeni \u00f6nlemler ald\u0131\u011f\u0131n\u0131 bildirdi<\/b><\/p>\n

Character.AI, bu trajik olay\u0131n ard\u0131ndan platformunda yeni g\u00fcvenlik \u00f6nlemleri ald\u0131\u011f\u0131n\u0131<\/strong> ve kullan\u0131c\u0131lar intihar d\u00fc\u015f\u00fcncelerini payla\u015ft\u0131\u011f\u0131nda onlar\u0131 Ulusal \u0130ntihar\u0131 \u00d6nleme Yard\u0131m Hatt\u0131\u2019na y\u00f6nlendiren uyar\u0131lar ekledi\u011fini a\u00e7\u0131klad\u0131. Ancak Garcia, \u015firketin bu ad\u0131mlar\u0131n\u0131n yeterli olmad\u0131\u011f\u0131n\u0131 ve o\u011flunun \u00f6l\u00fcm\u00fcnden sorumlu olduklar\u0131n\u0131 savunuyor. Google ise davada su\u00e7lanmas\u0131na ra\u011fmen, Character.AI’nin geli\u015ftirilmesinde yer almad\u0131\u011f\u0131n\u0131 belirtti.<\/p>\n

Bu dava, yapay zeka teknolojilerinin h\u0131zla hayat\u0131m\u0131za entegre oldu\u011fu bir d\u00f6nemde, bu t\u00fcr ara\u00e7lar\u0131n potansiyel tehlikelerine dikkat \u00e7ekiyor. \u00d6zellikle gen\u00e7lerin bu t\u00fcr yapay zeka sohbet robotlar\u0131na olan ba\u011f\u0131ml\u0131l\u0131\u011f\u0131 ve duygusal etkilenmeleri, teknoloji \u015firketlerinin sorumlulu\u011funu daha fazla g\u00fcndeme getiriyor. \u015eirketlerin kullan\u0131c\u0131 g\u00fcvenli\u011fi konusunda daha fazla sorumluluk almas\u0131 gerekti\u011fi vurgulan\u0131rken bu olay\u0131n ard\u0131nda yatan psikolojik ve sosyal boyutlar da tart\u0131\u015f\u0131lmaya devam ediyor.<\/p>\n

Yapay zeka konusunda bilin\u00e7lenmek \u015fart!<\/b><\/p>\n

Ge\u00e7ti\u011fimiz ay 20 milyondan fazla kullan\u0131c\u0131s\u0131 <\/strong>oldu\u011funu s\u00f6yleyen Character.AI, kullan\u0131c\u0131lar\u0131n ger\u00e7ek insanlar\u0131 taklit edecek \u015fekilde yan\u0131t veren karakterler olu\u015fturmas\u0131na olanak tan\u0131yor. Bu sohbet robotlar\u0131n\u0131n arkas\u0131nda yatan teknoloji ise ChatGPT, Gemini ve Copilot ile ayn\u0131: B\u00fcy\u00fck dil modeli<\/strong> (LLM).<\/p>\n

Yeti\u015fkinler de dahil olmak \u00fczere \u00f6zellikle gen\u00e7leri yapay zeka teknolojileri \u00f6zelinde azami d\u00fczeyde bilin\u00e7lendirmek hayati \u00f6neme sahip olabilir.<\/strong> Ya\u015fanan trajik olayda bir gen\u00e7, konu\u015ftu\u011fu karakteri \u201cger\u00e7ek\u201d sanm\u0131\u015f ve onunla derin bir duygusal ba\u011f kurmu\u015f olabilir. Ancak hayat\u0131na son veren Sewell Setzer, belki de konu\u015ftu\u011fu karakterin herhangi bir d\u00fc\u015f\u00fcncesi bile olmad\u0131\u011f\u0131n\u0131 bilmiyordu.<\/p>\n

G\u00fcn\u00fcm\u00fcz LLM\u2019ye dayal\u0131 yapay zekalar\u0131n\u0131n hi\u00e7birisinin bir d\u00fc\u015f\u00fcncesi yok. Bu yapay zekalar yazd\u0131klar\u0131 \u015feyin ne oldu\u011funu bile bilmiyor. Sadece sizin yan\u0131tlar\u0131n\u0131zla ili\u015fkili olarak \u201colas\u0131l\u0131klara dayal\u0131\u201d bir yan\u0131t sunuyorlar. Bu yan\u0131tlar esas\u0131nda sadece rakamlardan olu\u015fuyor, kelimelerden bile de\u011fil. Dolay\u0131s\u0131yla asl\u0131nda bu yapay zekalar harflerin ve kelimelerin ne anlama geldi\u011fini de bilmiyor. Bu detaylar\u0131 bilmek ki\u015filerin duygusal bo\u015fluklarda bir sohbet robotuna ba\u011flanmas\u0131n\u0131 engelleyebilir.<\/p>\n

Daha fazla detay i\u00e7in Yapay zekalar nas\u0131l \u00e7al\u0131\u015f\u0131yor? adl\u0131 i\u00e7eri\u011fimizi mutlaka okuyunuz.<\/p>\n\n

Kaynak\u00a0 :\u00a0https:\/\/www.donanimhaber.com\/yapay-zeka-bir-genci-intihara-surukledi–183439<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Teknoloji hayat\u0131m\u0131z\u0131n her alan\u0131n\u0131 ku\u015fat\u0131rken, bir annenin ya\u015fad\u0131\u011f\u0131 trajedi, bu ilerlemenin karanl\u0131k y\u00fcz\u00fcn\u00fc g\u00f6zler \u00f6n\u00fcne serdi. Megan Garcia, 14 ya\u015f\u0131ndaki o\u011flu Sewell Setzer\u2019in intihar\u0131n\u0131n ard\u0131ndan, bir yapay zeka sohbet robotu olan “Character.AI …<\/p>\n","protected":false},"author":1,"featured_media":109841,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8],"tags":[1406,7254,2774,97,571],"class_list":["post-109840","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-teknoloji","tag-dava","tag-garcia","tag-sohbet-robotu","tag-teknoloji","tag-yapay-zeka"],"_links":{"self":[{"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/posts\/109840","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/comments?post=109840"}],"version-history":[{"count":1,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/posts\/109840\/revisions"}],"predecessor-version":[{"id":109846,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/posts\/109840\/revisions\/109846"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/media\/109841"}],"wp:attachment":[{"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/media?parent=109840"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/categories?post=109840"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/tags?post=109840"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}