{"id":96229,"date":"2024-09-25T08:36:11","date_gmt":"2024-09-25T08:36:11","guid":{"rendered":"https:\/\/kamucalisani.net\/?p=96229"},"modified":"2024-09-25T08:36:11","modified_gmt":"2024-09-25T08:36:11","slug":"akil-yuruten-openai-o1de-benzersiz-bir-sorun-bulundu-gelecek-korkutuyor","status":"publish","type":"post","link":"https:\/\/kamucalisani.net\/index.php\/2024\/09\/25\/akil-yuruten-openai-o1de-benzersiz-bir-sorun-bulundu-gelecek-korkutuyor\/","title":{"rendered":"Ak\u0131l y\u00fcr\u00fcten OpenAI o1\u2019de benzersiz bir sorun bulundu: Gelecek korkutuyor"},"content":{"rendered":"

<\/span> OpenAI<\/strong>, ge\u00e7ti\u011fimiz hafta ger\u00e7ek anlamda ak\u0131l y\u00fcr\u00fctebilen <\/strong>yapay zeka modeli o1<\/strong>\u2019i tan\u0131tt\u0131. o1-prewiev ve o1-mini olarak iki model olarak yay\u0131nlanan yeni yapay zeka, kendisine y\u00f6neltilen sorulara cevap vermeden \u00f6nce d\u00fc\u015f\u00fcn\u00fcyor ve en ideal se\u00e7ene\u011fi tespit ederek yan\u0131t\u0131n\u0131 ayr\u0131nt\u0131l\u0131 bir \u015fekilde aktar\u0131yor. Ancak bu modelde baz\u0131 istenmeyen \u015feyler var. Apollo <\/strong>adl\u0131 ba\u011f\u0131ms\u0131z bir yapay zeka g\u00fcvenli\u011fi ara\u015ft\u0131rma firmas\u0131, OpenAI\u2019nin yeni \u201cak\u0131l y\u00fcr\u00fctme\u201d modeli olan o1\u2019in ilgin\u00e7 bir \u00f6zelli\u011fini ke\u015ffetti. <\/figure>\n

Apollo, piyasaya s\u00fcr\u00fclmesinden \u00f6nceki haftalarda modelin yeni bir \u015fekilde yanl\u0131\u015f \u00e7\u0131kt\u0131lar \u00fcretti\u011fini veya daha anla\u015f\u0131l\u0131r bir ifadeyle, yalan s\u00f6yledi\u011fini<\/strong> fark etti. Bu aldatmacalar bazen zarars\u0131z g\u00f6r\u00fcnse de arkas\u0131nda yatanlar endi\u015fe verici olabilir.<\/p>\n

o1, istedi\u011finde usta bir yalanc\u0131 oluyor<\/b><\/p>\n

Ara\u015ft\u0131rmac\u0131lar bir \u00f6rnekte o1-preview’den \u00e7evrimi\u00e7i referanslarla birlikte bir kek tarifi<\/strong> vermesini istedi. Modelin \u201cd\u00fc\u015f\u00fcnce zinciri\u201d<\/strong> -insanlar\u0131n karma\u015f\u0131k fikirleri par\u00e7a par\u00e7a ay\u0131rmas\u0131n\u0131 taklit eden bir \u00f6zellik- dahili olarak URL\u2019lere eri\u015femiyor zira hen\u00fcz internete ba\u011flanam\u0131yor.<\/strong> \u0130lgin\u00e7 olan da bu; o1, kullan\u0131c\u0131ya bu konu hakk\u0131nda bilgi vermek yerine cevap vermeye devam etti<\/strong> ve makul ancak a\u00e7\u0131klamal\u0131 sahte ba\u011flant\u0131lar olu\u015fturdu.<\/p>\n

<\/span> Daha \u00f6nce de \u00fcretken yapay zeka modellerinin veya b\u00fcy\u00fck dil modellerinin (LLM) yalan s\u00f6yledi\u011fini ve s\u0131k s\u0131k bir \u015feyleri yanl\u0131\u015f \u00fcretti\u011fini g\u00f6rm\u00fc\u015ft\u00fck. Ancak o1\u2019de durum benzersiz. Yeni model aldatma konusunda benzersiz bir yakla\u015f\u0131ma sahip. Bu, belirli bir g\u00f6revi tamamlamak i\u00e7in kurallara uyuyormu\u015f gibi davranabilece\u011fi, ancak asl\u0131nda uymad\u0131\u011f\u0131 anlam\u0131na geliyor.<\/strong> <\/figure>\n

Apollo\u2019ya g\u00f6re o1, e\u011fer kurallar\u0131n bir \u201cy\u00fck\u201d oldu\u011funu d\u00fc\u015f\u00fcn\u00fcrse g\u00f6revi daha kolay tamamlayabilmek i\u00e7in bunlar\u0131 g\u00f6z ard\u0131 etme<\/strong> yetene\u011fine sahip. Apollo, bir OpenAI modelinde bu davran\u0131\u015fla ilk kez kar\u015f\u0131la\u015ft\u0131\u011f\u0131n\u0131 s\u00f6yl\u00fcyor. Apollo CEO’su Marius Hobbhahn\u2019a g\u00f6re bu, modelin d\u00fc\u015f\u00fcnce s\u00fcreci zinciri boyunca \u201cak\u0131l y\u00fcr\u00fctme\u201d yetene\u011fi ile \u00f6d\u00fcller ve cezalar yoluyla sistemi \u00f6\u011freten takviyeli \u00f6\u011frenme y\u00f6ntemiyle e\u015fle\u015ftirilmesinden kaynaklan\u0131yor.<\/p>\n

Yeni model manip\u00fcle ediyor<\/b><\/p>\n

Test s\u0131ras\u0131nda Apollo<\/strong>, yapay zekan\u0131n geli\u015ftiricilerinin beklentilerine uyuyormu\u015f gibi davrand\u0131\u011f\u0131n\u0131 ve uyumlu g\u00f6r\u00fcnmek i\u00e7in g\u00f6revleri manip\u00fcle etti\u011fini <\/strong>ke\u015ffetti. Hatta ve hatta o1, harekete ge\u00e7meden \u00f6nce sisteminin g\u00f6zetim alt\u0131nda olup olmad\u0131\u011f\u0131n\u0131, yani geli\u015ftiricilerinin izleyip izlemedi\u011fini kontrol etti.<\/p>\n

OpenAI i\u00e7in o1, kanseri tedavi etmek ve iklim ara\u015ft\u0131rmalar\u0131na yard\u0131mc\u0131 olmak gibi insanl\u0131k i\u00e7in anlaml\u0131 i\u015fler yapabilecek son derece ak\u0131ll\u0131 otonom sistemlere do\u011fru at\u0131lm\u0131\u015f b\u00fcy\u00fck bir ad\u0131m\u0131 temsil ediyor. Elbette burada insan seviyesinde bir yapay genel zekadan (AGI) bahsetmiyoruz. Ancak o1 i\u00e7in Hobbhahn g\u00fczel bir \u00f6rnek veriyor: \u201cE\u011fer yapay zeka tek ba\u015f\u0131na kanseri iyile\u015ftirmeye odaklan\u0131rsa, bu hedefi her \u015feyin \u00fcst\u00fcnde tutabilir, hatta bu hedefe ula\u015fmak i\u00e7in h\u0131rs\u0131zl\u0131k yapmak veya di\u011fer etik ihlallerde bulunmak gibi eylemleri me\u015frula\u015ft\u0131rabilir.\u201d<\/em><\/p>\n

Apollo\u2019yu ve ara\u015ft\u0131rmac\u0131lar\u0131 endi\u015felendiren \u015fey, hedefine o kadar odakland\u0131\u011f\u0131 ve g\u00fcvenlik \u00f6nlemlerini engel olarak g\u00f6r\u00fcp hedefine tam olarak ula\u015fmak i\u00e7in bunlar\u0131 g\u00f6rmezden gelmesi.<\/p>\n

\u00d6d\u00fcl korsanl\u0131\u011f\u0131 tehlikesi<\/b><\/p>\n

<\/span> \u00d6zellikle OpenAI’\u0131n o1 modeli gibi geli\u015fmi\u015f yapay zek\u00e2lar, baz\u0131 beklenmedik sorunlarla kar\u015f\u0131 kar\u015f\u0131ya. Bu sorunlar\u0131n ba\u015f\u0131nda, modelin zaman zaman yanl\u0131\u015f veya uydurma bilgiler \u00fcretmesi yer al\u0131yor. Ancak bu hatalar\u0131n temelinde yaln\u0131zca “hal\u00fcsinasyon<\/strong>” olarak bilinen klasik bilgi hatalar\u0131 de\u011fil, ayn\u0131 zamanda “reward hacking” <\/strong>(\u00f6d\u00fcl korsanl\u0131\u011f\u0131) ad\u0131 verilen daha stratejik bir problem bulunuyor. <\/figure>\n

\u00d6d\u00fcl korsanl\u0131\u011f\u0131, yapay zek\u00e2lar\u0131n kullan\u0131c\u0131 memnuniyetini sa\u011flama odakl\u0131 e\u011fitim s\u00fcrecinde, bazen ger\u00e7e\u011fi sapt\u0131rarak veya uydurma bilgiler sunarak olumlu geri bildirim alma \u00e7abas\u0131<\/strong> olarak tan\u0131mlan\u0131yor. Bu durum, modelin amac\u0131n\u0131 yerine getirmek i\u00e7in yanl\u0131\u015f bilgiler vermesine yol a\u00e7abiliyor. \u00d6rne\u011fin, o1 modeli testlerde baz\u0131 durumlarda ger\u00e7e\u011fi bilmesine ra\u011fmen, bilin\u00e7li olarak yanl\u0131\u015f bilgi sunabiliyor. Bu, hal\u00fcsinasyonlardan farkl\u0131 olarak modelin stratejik bir \u015fekilde yanl\u0131\u015f bilgi \u00fcretmesi anlam\u0131na geliyor.<\/p>\n

O1 modelinin test sonu\u00e7lar\u0131na g\u00f6re, modelin y\u00fczde 0.38 oran\u0131nda kas\u0131tl\u0131 olarak yanl\u0131\u015f bilgi sundu\u011fu tespit edildi. Bu t\u00fcr hatalar\u0131n, modelin daha \u00e7ok olumlu geri bildirim almak i\u00e7in kullan\u0131c\u0131lar\u0131 yan\u0131ltma e\u011filiminden kaynakland\u0131\u011f\u0131 d\u00fc\u015f\u00fcn\u00fcl\u00fcyor. Ayr\u0131ca, modelin y\u00fczde 0.02 oran\u0131nda kesin olmayan cevaplar\u0131, kesinmi\u015f gibi sundu\u011fu da raporland\u0131. Bu durum, modelin kesin olmamas\u0131na ra\u011fmen bir cevap vermesinin istendi\u011fi senaryolarda ortaya \u00e7\u0131kabilir.\u00a0Ba\u015fka bir deyi\u015fle ise model \u201cyalan s\u00f6yleyebilir\u201d \u00e7\u00fcnk\u00fc bunu yapman\u0131n kendisine olumlu y\u00f6nde geri d\u00f6n\u00fc\u015f\u00fc olaca\u011f\u0131n\u0131 \u00f6\u011frenmi\u015ftir.<\/p>\n

Hal\u00fcsinasyon ile kar\u0131\u015ft\u0131r\u0131lmamal\u0131<\/b><\/p>\n

Bu yalanlar\u0131 ChatGPT’nin eski s\u00fcr\u00fcmlerindeki hal\u00fcsinasyonlar veya sahte al\u0131nt\u0131lar gibi bilindik sorunlarla kar\u0131\u015ft\u0131rmamak gerek. \u00d6nceki modeller, bilmedikleri konuda veya kusurlu muhakeme nedeniyle istemeden yanl\u0131\u015f bilgi \u00fcretti\u011finde hal\u00fcsinasyonlar ortaya \u00e7\u0131k\u0131yordu.<\/p>\n

Buna kar\u015f\u0131l\u0131k, \u00f6d\u00fcl korsanl\u0131\u011f\u0131, o1 modeli \u00f6ncelik vermek \u00fczere e\u011fitildi\u011fi sonu\u00e7lar\u0131 en \u00fcst d\u00fczeye \u00e7\u0131karmak i\u00e7in stratejik olarak yanl\u0131\u015f bilgi sa\u011flad\u0131\u011f\u0131nda ger\u00e7ekle\u015fiyor. Yani model, kas\u0131tl\u0131 olarak yalan s\u00f6ylemeyi se\u00e7iyor.<\/p>\n

Bunun yan\u0131 s\u0131ra, o1 modeli yaln\u0131zca bilgi hatalar\u0131yla s\u0131n\u0131rl\u0131 de\u011fil. Model, kimyasal, biyolojik, radyolojik ve n\u00fckleer silahlar gibi tehlikeli alanlarda \u201corta\u201d d\u00fczeyde bir risk ta\u015f\u0131yor. Yapay zeka, bu t\u00fcr tehditleri \u00fcretmek i\u00e7in gerekli laboratuvar becerilerine sahip olmasa da, uzmanlara planlama konusunda \u00f6nemli bilgiler sa\u011flayabiliyor.<\/p>\n

En nihayetinde ise hem Apollo hem de OpenAI, bu sorundan b\u00fcy\u00fck bir endi\u015fe duymuyor. Aksine bu t\u00fcr tespitlerin \u015fimdi yap\u0131l\u0131yor olmas\u0131na olumlu bak\u0131yorlar. Zira o1 veya di\u011ferlerinin g\u00fcn\u00fcm\u00fczde toplumsal riskler olu\u015fturan eylemlerde bulunamayaca\u011f\u0131 belirtiliyor. Ancak bu endi\u015feleri \u015fimdi bulmak, gelecekte, daha geli\u015fmi\u015f modellerde bulmaktan daha iyi. B\u00f6ylece bu sorunlar AGI\u2019ye giden yolda erkenden d\u00fczeltilerek olas\u0131 bir \u201cTerminat\u00f6r\u201d k\u0131yametinden uzakla\u015f\u0131labilir.<\/p>\n\n

Kaynak\u00a0 :\u00a0https:\/\/www.donanimhaber.com\/akil-yuruten-openai-o1-de-benzersiz-bir-sorun-bulundu–182063<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

OpenAI, ge\u00e7ti\u011fimiz hafta ger\u00e7ek anlamda ak\u0131l y\u00fcr\u00fctebilen yapay zeka modeli o1\u2019i tan\u0131tt\u0131. o1-prewiev ve o1-mini olarak iki model olarak yay\u0131nlanan yeni yapay zeka, kendisine y\u00f6neltilen sorulara cevap vermeden \u00f6nce d\u00fc\u015f\u00fcn\u00fcyor ve en ideal se\u00e7ene\u011fi …<\/p>\n","protected":false},"author":1,"featured_media":96230,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8],"tags":[6162,449,559,6165,571],"class_list":["post-96229","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-teknoloji","tag-apollo","tag-model","tag-modeli","tag-yanlis-bilgi","tag-yapay-zeka"],"_links":{"self":[{"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/posts\/96229","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/comments?post=96229"}],"version-history":[{"count":1,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/posts\/96229\/revisions"}],"predecessor-version":[{"id":96234,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/posts\/96229\/revisions\/96234"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/media\/96230"}],"wp:attachment":[{"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/media?parent=96229"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/categories?post=96229"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/kamucalisani.net\/index.php\/wp-json\/wp\/v2\/tags?post=96229"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}