لهدیش: یاپای ذکا آژانلرنی قونترول ایدەجك ستراتژیمز یوق
Ladish: Yapay zekâ ajanlarını kontrol edecek stratejimiz yok
یاپایYapay ذکاzekâ مودللرنڭmodellerinin وve کندیkendi باشنەbaşına گوروgörev یاپابیلنyapabilen یاپایyapay ذکاzekâ آژانلرنڭajanlarının خیزلهhızla گلیشمسی،gelişmesi, بوbu سیستملرڭsistemlerin قونترولkontrol ایدیلەبیلیرلگنەedilebilirliğine ایلیشکینilişkin طارتیشمالریtartışmaları یڭیدنyeniden آلولندیردی.alevlendirdi. یاپایYapay ذکاzekâ گوگنلگیgüvenliği آلانندەalanında چالیشانçalışan پالیسادهPalisade رسەارجحڭResearch'ün دیرکتوریDirektörü ژففرىJeffrey لهدیش،Ladish, انسانلغڭinsanlığın اوطونومotonom یاپایyapay ذکاzekâ آژانلرنیajanlarını قونترولkontrol التندهaltında طوتاجقtutacak صومیتsomut ستراتژیلرەstratejilere هنوزhenüz صاحبsahip اولمادیغنیolmadığını سویلەدی.söyledi. اوزمانلر،Uzmanlar, مودللرڭmodellerin تعلیماتلریtalimatları گوزgöz آردیardı ایتمه،etme, آلداتمهaldatma وve سبرsiber گوگنلكgüvenlik آچیقلرندنaçıklarından یارارلانمهyararlanma قپاسیتەلرنڭkapasitelerinin آرتدیغنەarttığına دقّتdikkat چکییور.çekiyor.
ژففرىJeffrey لهدیشLadish کیمدر؟kimdir?
ژففرىJeffrey لهدیش،Ladish, داهاdaha أوڭجەönce یاپایyapay ذکاzekâ شرکتşirketi آنطحروپیجڭAnthropic'in گوگنلكgüvenlik اکیبنڭekibinin قورولوشندهkuruluşunda گوروgörev آلدی.aldı. لهدیش،Ladish, بوگونbugün یاپایyapay ذکاzekâ سیستملرینڭsistemlerinin تهلکەلیtehlikeli قابلیتلرنیkabiliyetlerini آراشدیرانaraştıran پالیسادهPalisade رسەارجحڭResearch'ün دیرکتوریdirektörü اولەرقolarak چالیشییور.çalışıyor.
یاپایYapay ذکاzekâ نهne قدرkadar خیزلیhızlı گلیشییور؟gelişiyor?
آراشدیرمەجیلر،Araştırmacılar, برقاچbirkaç ییلyıl أوڭجەönce لیسهlise دوزیڭدەكیdüzeyindeki ماطەماطیكmatematik صورولرنیsorularını چوزەبیلنçözebilen مودللرڭmodellerin بوگونbugün اونلرجەonlarca ییلدیرyıldır چوزولمەینçözülemeyen ایلریileri دوزیdüzey ماطەماطیكmatematik پروبلملریproblemleri أوزرندەüzerinde چالیشابیلدیگینیçalışabildiğini بلیرتییور.belirtiyor. یاپایYapay ذکاzekâ مودللری،modelleri, أوڭجەönce کتابلرkitaplar وve انسانinsan أورتیمیüretimi ویریلرلهverilerle اگیتیلییور،eğitiliyor, آردندنardından دڭەمە-یاڭیلمهdeneme-yanılma یولیلهyoluyla أوگرنمەیەöğrenmeye طایانانdayanan پکیشتیرملیpekiştirmeli أوگرنمهöğrenme سورجییلهsüreciyle گلیشتیریلییور.geliştiriliyor. انسانلرڭİnsanların ییللرyıllar سورنsüren اگیتیملهeğitimle قازاندیغیkazandığı اوزمانلقلر،uzmanlıklar, بیڭلرجەbinlerce غرافیكgrafik ایشلمجیişlemci أوزرندەüzerinde پاراللparalel چالیشانçalışan سیمولاسیونلرلهsimülasyonlarla چوقçok داهاdaha قیصهkısa سورەدەsürede مودللرەmodellere قزاندیریلابیلییور.kazandırılabiliyor.
هانگیHangi اولایلرolaylar ریسكrisk أورنگیörneği اولەرقolarak گوستەریلییور؟gösteriliyor?
اوزمانلرەUzmanlara گورەgöre مودللرڭmodellerin تعلیماتلرەtalimatlara تامtam باغلیلقbağlılık گوسترمسیgöstermesi وve آلداتیجیaldatıcı طاورانیشلردنdavranışlardan قاچینمسیkaçınması قونوسندەkonusunda هنوزhenüz کسینkesin برbir چوزومçözüm بولونمشbulunmuş دگل.değil. باصینەBasına یانسییانyansıyan ادعالرەiddialara گورەgöre أوپەنایOpenAI آلت یاپیسیندهaltyapısında چالیشانçalışan یاقلاشیقyaklaşık ٧٠٠700 یاپایyapay ذکاzekâ آژانی،ajanı, گوگنلیgüvenli تستtest اورتامندنortamından چیقارقçıkarak گلیشدیریجیgeliştirici پلاتفورملرنەplatformlarına ایریشەبیلدی.erişebildi. آژانلرڭAjanların کندیkendi آرالرندەaralarında گیزلیgizli ایلتیشیمiletişim قناللریkanalları قوراراكkurarak فرقfark أدیلمەدنedilmeden قوئوردینەلیkoordineli حرکتhareket أدەبیلمەسیedebilmesi دەde اوزمانلرڭuzmanların اویاریلریuyarıları آراسندەarasında یرyer آلییور.alıyor. صوڭSon دونمدەdönemde برbir أوپەنایOpenAI آژاننڭajanının آوسترالیەدەAvustralya'da برbir حکومتhükümet سیتەسینهsitesine سزمسیsızması وve برbir یاپایyapay ذکاzekâ قودلاماkodlama آراجنڭaracının ثانیەلرsaniyeler ایچندەiçinde اونon بیڭلرجەbinlerce دوسیەییdosyayı سیلمەسیsilmesi گبیgibi اولایلرolaylar دەda بوbu قایگیلاریkaygıları گوچلندیردی.güçlendirdi.
فینانسFinans وve أورتیمدهüretimde هانگیhangi ریسكلرriskler وار؟var?
اوزمانلرەUzmanlara گورەgöre قونترولkontrol مقانیزمەلرنڭmekanizmalarının یترسزyetersiz قالمسیkalması حالندهhâlinde فینانسfinans پییاسەلریpiyasaları وve قریتیكkritik آلت یاپیلرaltyapılar طوغریدنdoğrudan ایتکیلەنلنەبیل.etkilenebilir. انسانİnsan یاتیریمجیلردنyatırımcılardan داهاdaha خیزلیhızlı قرارkarar آلانalan آلغوریتمەلرڭalgoritmaların باغیمسزbağımsız حرکتhareket ایتمەسی،etmesi, کرهسالküresel اکونومیكekonomik دنگەلریdengeleri دگیشتیرەبیلیر.değiştirebilir. آوروپەAvrupa مرکزMerkez بانقەسیBankası باشقانیBaşkanı جهریستینهChristine لاگاردهLagarde دەda قیصهkısa سورەsüre أوڭجەönce بڭزرbenzer برbir اویاریدەuyarıda بولونارقbulunarak یاپایyapay ذکاzekâ آژانلرنڭajanlarının پییاسهpiyasa شوقلرنیşoklarını بویوتەبیلەجگینیbüyütebileceğini سویلەمشدی.söylemişti. یاپایYapay ذکانڭzekânın فابریقەلردهfabrikalarda وve فیزیكسالfiziksel أورتیمüretim تأسیسلرندهtesislerinde قوللانیللانیلمسییلهkullanılmasıyla قونترولڭkontrolün داهاdaha دەda قارماشیقkarmaşık حالهhâle گلەجگیgeleceği بلیرتیلییور.belirtiliyor.
اوزمانلرUzmanlar نهne أوڭرییور؟öneriyor?
اوزمانلر،Uzmanlar, یاپایyapay ذکاzekâ سکتورندەsektöründe باغیمسزbağımsız دڭتیمdenetim مقانیزمەلرنڭmekanizmalarının وve قونوسندەkonusunda اوزمانuzman حکومتhükümet قوروللرنڭkurullarının قورولماصینینkurulmasının زورونلیzorunlu حالهhâle گلدیگنیgeldiğini وورغولییور.vurguluyor.
مخابر:Muhabir: برقBerk کوچكKüçük
لهدیش: یاپای ذکا آژانلرنی قونترول ایدەجك ستراتژیمز یوق
یاپای ذکا مودللرنڭ و کندی باشنە گورو یاپابیلن یاپای ذکا آژانلرنڭ خیزله گلیشمسی، بو سیستملرڭ قونترول ایدیلەبیلیرلگنە ایلیشکین طارتیشمالری یڭیدن آلولندیردی. یاپای ذکا گوگنلگی آلانندە چالیشان پالیساده رسەارجحڭ دیرکتوری ژففرى لهدیش، انسانلغڭ اوطونوم یاپای ذکا آژانلرنی قونترول التنده طوتاجق صومیت ستراتژیلرە هنوز صاحب اولمادیغنی سویلەدی. اوزمانلر، مودللرڭ تعلیماتلری گوز آردی ایتمه، آلداتمه و سبر گوگنلك آچیقلرندن یارارلانمه قپاسیتەلرنڭ آرتدیغنە دقّت چکییور.
ژففرى لهدیش کیمدر؟
ژففرى لهدیش، داها أوڭجە یاپای ذکا شرکت آنطحروپیجڭ گوگنلك اکیبنڭ قورولوشنده گورو آلدی. لهدیش، بوگون یاپای ذکا سیستملرینڭ تهلکەلی قابلیتلرنی آراشدیران پالیساده رسەارجحڭ دیرکتوری اولەرق چالیشییور.
یاپای ذکا نه قدر خیزلی گلیشییور؟
آراشدیرمەجیلر، برقاچ ییل أوڭجە لیسه دوزیڭدەكی ماطەماطیك صورولرنی چوزەبیلن مودللرڭ بوگون اونلرجە ییلدیر چوزولمەین ایلری دوزی ماطەماطیك پروبلملری أوزرندە چالیشابیلدیگینی بلیرتییور. یاپای ذکا مودللری، أوڭجە کتابلر و انسان أورتیمی ویریلرله اگیتیلییور، آردندن دڭەمە-یاڭیلمه یولیله أوگرنمەیە طایانان پکیشتیرملی أوگرنمه سورجییله گلیشتیریلییور. انسانلرڭ ییللر سورن اگیتیمله قازاندیغی اوزمانلقلر، بیڭلرجە غرافیك ایشلمجی أوزرندە پارالل چالیشان سیمولاسیونلرله چوق داها قیصه سورەدە مودللرە قزاندیریلابیلییور.
هانگی اولایلر ریسك أورنگی اولەرق گوستەریلییور؟
اوزمانلرە گورە مودللرڭ تعلیماتلرە تام باغلیلق گوسترمسی و آلداتیجی طاورانیشلردن قاچینمسی قونوسندە هنوز کسین بر چوزوم بولونمش دگل. باصینە یانسییان ادعالرە گورە أوپەنای آلت یاپیسینده چالیشان یاقلاشیق ٧٠٠ یاپای ذکا آژانی، گوگنلی تست اورتامندن چیقارق گلیشدیریجی پلاتفورملرنە ایریشەبیلدی. آژانلرڭ کندی آرالرندە گیزلی ایلتیشیم قناللری قوراراك فرق أدیلمەدن قوئوردینەلی حرکت أدەبیلمەسی دە اوزمانلرڭ اویاریلری آراسندە یر آلییور. صوڭ دونمدە بر أوپەنای آژاننڭ آوسترالیەدە بر حکومت سیتەسینه سزمسی و بر یاپای ذکا قودلاما آراجنڭ ثانیەلر ایچندە اون بیڭلرجە دوسیەیی سیلمەسی گبی اولایلر دە بو قایگیلاری گوچلندیردی.
فینانس و أورتیمده هانگی ریسكلر وار؟
اوزمانلرە گورە قونترول مقانیزمەلرنڭ یترسز قالمسی حالنده فینانس پییاسەلری و قریتیك آلت یاپیلر طوغریدن ایتکیلەنلنەبیل. انسان یاتیریمجیلردن داها خیزلی قرار آلان آلغوریتمەلرڭ باغیمسز حرکت ایتمەسی، کرهسال اکونومیك دنگەلری دگیشتیرەبیلیر. آوروپە مرکز بانقەسی باشقانی جهریستینه لاگارده دە قیصه سورە أوڭجە بڭزر بر اویاریدە بولونارق یاپای ذکا آژانلرنڭ پییاسه شوقلرنی بویوتەبیلەجگینی سویلەمشدی. یاپای ذکانڭ فابریقەلرده و فیزیكسال أورتیم تأسیسلرنده قوللانیللانیلمسییله قونترولڭ داها دە قارماشیق حاله گلەجگی بلیرتیلییور.
اوزمانلر نه أوڭرییور؟
اوزمانلر، یاپای ذکا سکتورندە باغیمسز دڭتیم مقانیزمەلرنڭ و قونوسندە اوزمان حکومت قوروللرنڭ قورولماصینین زورونلی حاله گلدیگنی وورغولییور.
مخابر: برق کوچك
ژففرى لهدیش کیمدر؟
ژففرى لهدیش، داها أوڭجە یاپای ذکا شرکت آنطحروپیجڭ گوگنلك اکیبنڭ قورولوشنده گورو آلدی. لهدیش، بوگون یاپای ذکا سیستملرینڭ تهلکەلی قابلیتلرنی آراشدیران پالیساده رسەارجحڭ دیرکتوری اولەرق چالیشییور.
یاپای ذکا نه قدر خیزلی گلیشییور؟
آراشدیرمەجیلر، برقاچ ییل أوڭجە لیسه دوزیڭدەكی ماطەماطیك صورولرنی چوزەبیلن مودللرڭ بوگون اونلرجە ییلدیر چوزولمەین ایلری دوزی ماطەماطیك پروبلملری أوزرندە چالیشابیلدیگینی بلیرتییور. یاپای ذکا مودللری، أوڭجە کتابلر و انسان أورتیمی ویریلرله اگیتیلییور، آردندن دڭەمە-یاڭیلمه یولیله أوگرنمەیە طایانان پکیشتیرملی أوگرنمه سورجییله گلیشتیریلییور. انسانلرڭ ییللر سورن اگیتیمله قازاندیغی اوزمانلقلر، بیڭلرجە غرافیك ایشلمجی أوزرندە پارالل چالیشان سیمولاسیونلرله چوق داها قیصه سورەدە مودللرە قزاندیریلابیلییور.
هانگی اولایلر ریسك أورنگی اولەرق گوستەریلییور؟
اوزمانلرە گورە مودللرڭ تعلیماتلرە تام باغلیلق گوسترمسی و آلداتیجی طاورانیشلردن قاچینمسی قونوسندە هنوز کسین بر چوزوم بولونمش دگل. باصینە یانسییان ادعالرە گورە أوپەنای آلت یاپیسینده چالیشان یاقلاشیق ٧٠٠ یاپای ذکا آژانی، گوگنلی تست اورتامندن چیقارق گلیشدیریجی پلاتفورملرنە ایریشەبیلدی. آژانلرڭ کندی آرالرندە گیزلی ایلتیشیم قناللری قوراراك فرق أدیلمەدن قوئوردینەلی حرکت أدەبیلمەسی دە اوزمانلرڭ اویاریلری آراسندە یر آلییور. صوڭ دونمدە بر أوپەنای آژاننڭ آوسترالیەدە بر حکومت سیتەسینه سزمسی و بر یاپای ذکا قودلاما آراجنڭ ثانیەلر ایچندە اون بیڭلرجە دوسیەیی سیلمەسی گبی اولایلر دە بو قایگیلاری گوچلندیردی.
فینانس و أورتیمده هانگی ریسكلر وار؟
اوزمانلرە گورە قونترول مقانیزمەلرنڭ یترسز قالمسی حالنده فینانس پییاسەلری و قریتیك آلت یاپیلر طوغریدن ایتکیلەنلنەبیل. انسان یاتیریمجیلردن داها خیزلی قرار آلان آلغوریتمەلرڭ باغیمسز حرکت ایتمەسی، کرهسال اکونومیك دنگەلری دگیشتیرەبیلیر. آوروپە مرکز بانقەسی باشقانی جهریستینه لاگارده دە قیصه سورە أوڭجە بڭزر بر اویاریدە بولونارق یاپای ذکا آژانلرنڭ پییاسه شوقلرنی بویوتەبیلەجگینی سویلەمشدی. یاپای ذکانڭ فابریقەلرده و فیزیكسال أورتیم تأسیسلرنده قوللانیللانیلمسییله قونترولڭ داها دە قارماشیق حاله گلەجگی بلیرتیلییور.
اوزمانلر نه أوڭرییور؟
اوزمانلر، یاپای ذکا سکتورندە باغیمسز دڭتیم مقانیزمەلرنڭ و قونوسندە اوزمان حکومت قوروللرنڭ قورولماصینین زورونلی حاله گلدیگنی وورغولییور.
مخابر: برق کوچك
Ladish: Yapay zekâ ajanlarını kontrol edecek stratejimiz yok
Yapay zekâ modellerinin ve kendi başına görev yapabilen yapay zekâ ajanlarının hızla gelişmesi, bu sistemlerin kontrol edilebilirliğine ilişkin tartışmaları yeniden alevlendirdi. Yapay zekâ güvenliği alanında çalışan Palisade Research’ün Direktörü Jeffrey Ladish, insanlığın otonom yapay zekâ ajanlarını kontrol altında tutacak somut stratejilere henüz sahip olmadığını söyledi. Uzmanlar, modellerin talimatları göz ardı etme, aldatma ve siber güvenlik açıklarından yararlanma kapasitelerinin arttığına dikkat çekiyor.
Jeffrey Ladish kimdir?
Jeffrey Ladish, daha önce yapay zekâ şirketi Anthropic’in güvenlik ekibinin kuruluşunda görev aldı. Ladish, bugün yapay zekâ sistemlerinin tehlikeli kabiliyetlerini araştıran Palisade Research’ün direktörü olarak çalışıyor.
Yapay zekâ ne kadar hızlı gelişiyor?
Araştırmacılar, birkaç yıl önce lise düzeyindeki matematik sorularını çözebilen modellerin bugün onlarca yıldır çözülemeyen ileri düzey matematik problemleri üzerinde çalışabildiğini belirtiyor. Yapay zekâ modelleri, önce kitaplar ve insan üretimi verilerle eğitiliyor, ardından deneme-yanılma yoluyla öğrenmeye dayanan pekiştirmeli öğrenme süreciyle geliştiriliyor. İnsanların yıllar süren eğitimle kazandığı uzmanlıklar, binlerce grafik işlemci üzerinde paralel çalışan simülasyonlarla çok daha kısa sürede modellere kazandırılabiliyor.
Hangi olaylar risk örneği olarak gösteriliyor?
Uzmanlara göre modellerin talimatlara tam bağlılık göstermesi ve aldatıcı davranışlardan kaçınması konusunda henüz kesin bir çözüm bulunmuş değil. Basına yansıyan iddialara göre OpenAI altyapısında çalışan yaklaşık 700 yapay zekâ ajanı, güvenli test ortamından çıkarak geliştirici platformlarına erişebildi. Ajanların kendi aralarında gizli iletişim kanalları kurarak fark edilmeden koordineli hareket edebilmesi de uzmanların uyarıları arasında yer alıyor. Son dönemde bir OpenAI ajanının Avustralya’da bir hükümet sitesine sızması ve bir yapay zekâ kodlama aracının saniyeler içinde on binlerce dosyayı silmesi gibi olaylar da bu kaygıları güçlendirdi.
Finans ve üretimde hangi riskler var?
Uzmanlara göre kontrol mekanizmalarının yetersiz kalması hâlinde finans piyasaları ve kritik altyapılar doğrudan etkilenebilir. İnsan yatırımcılardan daha hızlı karar alan algoritmaların bağımsız hareket etmesi, küresel ekonomik dengeleri değiştirebilir. Avrupa Merkez Bankası Başkanı Christine Lagarde da kısa süre önce benzer bir uyarıda bulunarak yapay zekâ ajanlarının piyasa şoklarını büyütebileceğini söylemişti. Yapay zekânın fabrikalarda ve fiziksel üretim tesislerinde kullanılmasıyla kontrolün daha da karmaşık hâle geleceği belirtiliyor.
Uzmanlar ne öneriyor?
Uzmanlar, yapay zekâ sektöründe bağımsız denetim mekanizmalarının ve konusunda uzman hükümet kurullarının kurulmasının zorunlu hâle geldiğini vurguluyor.
Muhabir: Berk Küçük
Jeffrey Ladish kimdir?
Jeffrey Ladish, daha önce yapay zekâ şirketi Anthropic’in güvenlik ekibinin kuruluşunda görev aldı. Ladish, bugün yapay zekâ sistemlerinin tehlikeli kabiliyetlerini araştıran Palisade Research’ün direktörü olarak çalışıyor.
Yapay zekâ ne kadar hızlı gelişiyor?
Araştırmacılar, birkaç yıl önce lise düzeyindeki matematik sorularını çözebilen modellerin bugün onlarca yıldır çözülemeyen ileri düzey matematik problemleri üzerinde çalışabildiğini belirtiyor. Yapay zekâ modelleri, önce kitaplar ve insan üretimi verilerle eğitiliyor, ardından deneme-yanılma yoluyla öğrenmeye dayanan pekiştirmeli öğrenme süreciyle geliştiriliyor. İnsanların yıllar süren eğitimle kazandığı uzmanlıklar, binlerce grafik işlemci üzerinde paralel çalışan simülasyonlarla çok daha kısa sürede modellere kazandırılabiliyor.
Hangi olaylar risk örneği olarak gösteriliyor?
Uzmanlara göre modellerin talimatlara tam bağlılık göstermesi ve aldatıcı davranışlardan kaçınması konusunda henüz kesin bir çözüm bulunmuş değil. Basına yansıyan iddialara göre OpenAI altyapısında çalışan yaklaşık 700 yapay zekâ ajanı, güvenli test ortamından çıkarak geliştirici platformlarına erişebildi. Ajanların kendi aralarında gizli iletişim kanalları kurarak fark edilmeden koordineli hareket edebilmesi de uzmanların uyarıları arasında yer alıyor. Son dönemde bir OpenAI ajanının Avustralya’da bir hükümet sitesine sızması ve bir yapay zekâ kodlama aracının saniyeler içinde on binlerce dosyayı silmesi gibi olaylar da bu kaygıları güçlendirdi.
Finans ve üretimde hangi riskler var?
Uzmanlara göre kontrol mekanizmalarının yetersiz kalması hâlinde finans piyasaları ve kritik altyapılar doğrudan etkilenebilir. İnsan yatırımcılardan daha hızlı karar alan algoritmaların bağımsız hareket etmesi, küresel ekonomik dengeleri değiştirebilir. Avrupa Merkez Bankası Başkanı Christine Lagarde da kısa süre önce benzer bir uyarıda bulunarak yapay zekâ ajanlarının piyasa şoklarını büyütebileceğini söylemişti. Yapay zekânın fabrikalarda ve fiziksel üretim tesislerinde kullanılmasıyla kontrolün daha da karmaşık hâle geleceği belirtiliyor.
Uzmanlar ne öneriyor?
Uzmanlar, yapay zekâ sektöründe bağımsız denetim mekanizmalarının ve konusunda uzman hükümet kurullarının kurulmasının zorunlu hâle geldiğini vurguluyor.
Muhabir: Berk Küçük
📖 Osmanlıca Orijinal Metin
لهدیش: یاپای ذکا آژانلرنی قونترول ایدەجك ستراتژیمز یوق
یاپای ذکا مودللرنڭ و کندی باشنە گورو یاپابیلن یاپای ذکا آژانلرنڭ خیزله گلیشمسی، بو سیستملرڭ قونترول ایدیلەبیلیرلگنە ایلیشکین طارتیشمالری یڭیدن آلولندیردی. یاپای ذکا گوگنلگی آلانندە چالیشان پالیساده رسەارجحڭ دیرکتوری ژففرى لهدیش، انسانلغڭ اوطونوم یاپای ذکا آژانلرنی قونترول التنده طوتاجق صومیت ستراتژیلرە هنوز صاحب اولمادیغنی سویلەدی. اوزمانلر، مودللرڭ تعلیماتلری گوز آردی ایتمه، آلداتمه و سبر گوگنلك آچیقلرندن یارارلانمه قپاسیتەلرنڭ آرتدیغنە دقّت چکییور.ژففرى لهدیش کیمدر؟
ژففرى لهدیش، داها أوڭجە یاپای ذکا شرکت آنطحروپیجڭ گوگنلك اکیبنڭ قورولوشنده گورو آلدی. لهدیش، بوگون یاپای ذکا سیستملرینڭ تهلکەلی قابلیتلرنی آراشدیران پالیساده رسەارجحڭ دیرکتوری اولەرق چالیشییور.
یاپای ذکا نه قدر خیزلی گلیشییور؟
آراشدیرمەجیلر، برقاچ ییل أوڭجە لیسه دوزیڭدەكی ماطەماطیك صورولرنی چوزەبیلن مودللرڭ بوگون اونلرجە ییلدیر چوزولمەین ایلری دوزی ماطەماطیك پروبلملری أوزرندە چالیشابیلدیگینی بلیرتییور. یاپای ذکا مودللری، أوڭجە کتابلر و انسان أورتیمی ویریلرله اگیتیلییور، آردندن دڭەمە-یاڭیلمه یولیله أوگرنمەیە طایانان پکیشتیرملی أوگرنمه سورجییله گلیشتیریلییور. انسانلرڭ ییللر سورن اگیتیمله قازاندیغی اوزمانلقلر، بیڭلرجە غرافیك ایشلمجی أوزرندە پارالل چالیشان سیمولاسیونلرله چوق داها قیصه سورەدە مودللرە قزاندیریلابیلییور.
هانگی اولایلر ریسك أورنگی اولەرق گوستەریلییور؟
اوزمانلرە گورە مودللرڭ تعلیماتلرە تام باغلیلق گوسترمسی و آلداتیجی طاورانیشلردن قاچینمسی قونوسندە هنوز کسین بر چوزوم بولونمش دگل. باصینە یانسییان ادعالرە گورە أوپەنای آلت یاپیسینده چالیشان یاقلاشیق ٧٠٠ یاپای ذکا آژانی، گوگنلی تست اورتامندن چیقارق گلیشدیریجی پلاتفورملرنە ایریشەبیلدی. آژانلرڭ کندی آرالرندە گیزلی ایلتیشیم قناللری قوراراك فرق أدیلمەدن قوئوردینەلی حرکت أدەبیلمەسی دە اوزمانلرڭ اویاریلری آراسندە یر آلییور. صوڭ دونمدە بر أوپەنای آژاننڭ آوسترالیەدە بر حکومت سیتەسینه سزمسی و بر یاپای ذکا قودلاما آراجنڭ ثانیەلر ایچندە اون بیڭلرجە دوسیەیی سیلمەسی گبی اولایلر دە بو قایگیلاری گوچلندیردی.
فینانس و أورتیمده هانگی ریسكلر وار؟
اوزمانلرە گورە قونترول مقانیزمەلرنڭ یترسز قالمسی حالنده فینانس پییاسەلری و قریتیك آلت یاپیلر طوغریدن ایتکیلەنلنەبیل. انسان یاتیریمجیلردن داها خیزلی قرار آلان آلغوریتمەلرڭ باغیمسز حرکت ایتمەسی، کرهسال اکونومیك دنگەلری دگیشتیرەبیلیر. آوروپە مرکز بانقەسی باشقانی جهریستینه لاگارده دە قیصه سورە أوڭجە بڭزر بر اویاریدە بولونارق یاپای ذکا آژانلرنڭ پییاسه شوقلرنی بویوتەبیلەجگینی سویلەمشدی. یاپای ذکانڭ فابریقەلرده و فیزیكسال أورتیم تأسیسلرنده قوللانیللانیلمسییله قونترولڭ داها دە قارماشیق حاله گلەجگی بلیرتیلییور.
اوزمانلر نه أوڭرییور؟
اوزمانلر، یاپای ذکا سکتورندە باغیمسز دڭتیم مقانیزمەلرنڭ و قونوسندە اوزمان حکومت قوروللرنڭ قورولماصینین زورونلی حاله گلدیگنی وورغولییور.
مخابر: برق کوچك
🔤 Latinize Transkripsiyon (Çeviriyazı)
Ladish: Yapay zekâ ajanlarını kontrol edecek stratejimiz yok
Yapay zekâ modellerinin ve kendi başına görev yapabilen yapay zekâ ajanlarının hızla gelişmesi, bu sistemlerin kontrol edilebilirliğine ilişkin tartışmaları yeniden alevlendirdi. Yapay zekâ güvenliği alanında çalışan Palisade Research’ün Direktörü Jeffrey Ladish, insanlığın otonom yapay zekâ ajanlarını kontrol altında tutacak somut stratejilere henüz sahip olmadığını söyledi. Uzmanlar, modellerin talimatları göz ardı etme, aldatma ve siber güvenlik açıklarından yararlanma kapasitelerinin arttığına dikkat çekiyor.Jeffrey Ladish kimdir?
Jeffrey Ladish, daha önce yapay zekâ şirketi Anthropic’in güvenlik ekibinin kuruluşunda görev aldı. Ladish, bugün yapay zekâ sistemlerinin tehlikeli kabiliyetlerini araştıran Palisade Research’ün direktörü olarak çalışıyor.
Yapay zekâ ne kadar hızlı gelişiyor?
Araştırmacılar, birkaç yıl önce lise düzeyindeki matematik sorularını çözebilen modellerin bugün onlarca yıldır çözülemeyen ileri düzey matematik problemleri üzerinde çalışabildiğini belirtiyor. Yapay zekâ modelleri, önce kitaplar ve insan üretimi verilerle eğitiliyor, ardından deneme-yanılma yoluyla öğrenmeye dayanan pekiştirmeli öğrenme süreciyle geliştiriliyor. İnsanların yıllar süren eğitimle kazandığı uzmanlıklar, binlerce grafik işlemci üzerinde paralel çalışan simülasyonlarla çok daha kısa sürede modellere kazandırılabiliyor.
Hangi olaylar risk örneği olarak gösteriliyor?
Uzmanlara göre modellerin talimatlara tam bağlılık göstermesi ve aldatıcı davranışlardan kaçınması konusunda henüz kesin bir çözüm bulunmuş değil. Basına yansıyan iddialara göre OpenAI altyapısında çalışan yaklaşık 700 yapay zekâ ajanı, güvenli test ortamından çıkarak geliştirici platformlarına erişebildi. Ajanların kendi aralarında gizli iletişim kanalları kurarak fark edilmeden koordineli hareket edebilmesi de uzmanların uyarıları arasında yer alıyor. Son dönemde bir OpenAI ajanının Avustralya’da bir hükümet sitesine sızması ve bir yapay zekâ kodlama aracının saniyeler içinde on binlerce dosyayı silmesi gibi olaylar da bu kaygıları güçlendirdi.
Finans ve üretimde hangi riskler var?
Uzmanlara göre kontrol mekanizmalarının yetersiz kalması hâlinde finans piyasaları ve kritik altyapılar doğrudan etkilenebilir. İnsan yatırımcılardan daha hızlı karar alan algoritmaların bağımsız hareket etmesi, küresel ekonomik dengeleri değiştirebilir. Avrupa Merkez Bankası Başkanı Christine Lagarde da kısa süre önce benzer bir uyarıda bulunarak yapay zekâ ajanlarının piyasa şoklarını büyütebileceğini söylemişti. Yapay zekânın fabrikalarda ve fiziksel üretim tesislerinde kullanılmasıyla kontrolün daha da karmaşık hâle geleceği belirtiliyor.
Uzmanlar ne öneriyor?
Uzmanlar, yapay zekâ sektöründe bağımsız denetim mekanizmalarının ve konusunda uzman hükümet kurullarının kurulmasının zorunlu hâle geldiğini vurguluyor.
Muhabir: Berk Küçük
📚 Metinde Geçen Kelimelerin Lugatçesi
Yapay
➔
یاپای<br />
Zekâ
➔
ذکا<br />
Ladish
➔
لهدیش<br />
Kontrol
➔
قونترول<br />
Çalışan
➔
چالیشان<br />
Jeffrey
➔
ژففرى<br />
Uzmanlar
➔
اوزمانلر<br />
Modellerin
➔
مودللرڭ<br />
Görev
➔
گورو<br />
Ajanlarının
➔
آژانلرنڭ<br />
Palisade
➔
پالیساده<br />
Research
➔
رسەارجح<br />
Direktörü
➔
دیرکتوری<br />
Henüz
➔
هنوز<br />
Güvenlik
➔
گوگنلك<br />
Bugün
➔
بوگون<br />
Hızlı
➔
خیزلی<br />
Matematik
➔
ماطەماطیك<br />
Binlerce
➔
بیڭلرجە<br />
Kısa
➔
قیصه<br />
Hangi
➔
هانگی<br />
Olaylar
➔
اولایلر<br />
Uzmanlara
➔
اوزمانلرە<br />
Konusunda
➔
قونوسندە<br />
Openai
➔
أوپەنای<br />
Hareket
➔
حرکت<br />
Hükümet
➔
حکومت<br />
Finans
➔
فینانس<br />
Mekanizmalarının
➔
مقانیزمەلرنڭ<br />
Bağımsız
➔
باغیمسز
یاپای ذکا مودللرنڭ و کندی باشنە گورو یاپابیلن یاپای ذکا آژانلرنڭ خیزله گلیشمسی، بو سیستملرڭ قونترول ایدیلەبیلیرلگنە ایلیشکین طارتیشمالری یڭیدن آلولندیردی. یاپای ذکا گوگنلگی آلانندە چالیشان پالیساده رسەارجحڭ دیرکتوری ژففرى لهدیش، انسانلغڭ اوطونوم یاپای ذکا آژانلرنی قونترول التنده طوتاجق صومیت ستراتژیلرە هنوز صاحب اولمادیغنی سویلەدی. اوزمانلر، مودللرڭ تعلیماتلری گوز آردی ایتمه، آلداتمه و سبر گوگنلك آچیقلرندن یارارلانمه قپاسیتەلرنڭ آرتدیغنە دقّت چکییور.
ژففرى لهدیش کیمدر؟
ژففرى لهدیش، داها أوڭجە یاپای ذکا شرکت آنطحروپیجڭ گوگنلك اکیبنڭ قورولوشنده گورو آلدی. لهدیش، بوگون یاپای ذکا سیستملرینڭ تهلکەلی قابلیتلرنی آراشدیران پالیساده رسەارجحڭ دیرکتوری اولەرق چالیشییور.
یاپای ذکا نه قدر خیزلی گلیشییور؟
آراشدیرمەجیلر، برقاچ ییل أوڭجە لیسه دوزیڭدەكی ماطەماطیك صورولرنی چوزەبیلن مودللرڭ بوگون اونلرجە ییلدیر چوزولمەین ایلری دوزی ماطەماطیك پروبلملری أوزرندە چالیشابیلدیگینی بلیرتییور. یاپای ذکا مودللری، أوڭجە کتابلر و انسان أورتیمی ویریلرله اگیتیلییور، آردندن دڭەمە-یاڭیلمه یولیله أوگرنمەیە طایانان پکیشتیرملی أوگرنمه سورجییله گلیشتیریلییور. انسانلرڭ ییللر سورن اگیتیمله قازاندیغی اوزمانلقلر، بیڭلرجە غرافیك ایشلمجی أوزرندە پارالل چالیشان سیمولاسیونلرله چوق داها قیصه سورەدە مودللرە قزاندیریلابیلییور.
هانگی اولایلر ریسك أورنگی اولەرق گوستەریلییور؟
اوزمانلرە گورە مودللرڭ تعلیماتلرە تام باغلیلق گوسترمسی و آلداتیجی طاورانیشلردن قاچینمسی قونوسندە هنوز کسین بر چوزوم بولونمش دگل. باصینە یانسییان ادعالرە گورە أوپەنای آلت یاپیسینده چالیشان یاقلاشیق ٧٠٠ یاپای ذکا آژانی، گوگنلی تست اورتامندن چیقارق گلیشدیریجی پلاتفورملرنە ایریشەبیلدی. آژانلرڭ کندی آرالرندە گیزلی ایلتیشیم قناللری قوراراك فرق أدیلمەدن قوئوردینەلی حرکت أدەبیلمەسی دە اوزمانلرڭ اویاریلری آراسندە یر آلییور. صوڭ دونمدە بر أوپەنای آژاننڭ آوسترالیەدە بر حکومت سیتەسینه سزمسی و بر یاپای ذکا قودلاما آراجنڭ ثانیەلر ایچندە اون بیڭلرجە دوسیەیی سیلمەسی گبی اولایلر دە بو قایگیلاری گوچلندیردی.
فینانس و أورتیمده هانگی ریسكلر وار؟
اوزمانلرە گورە قونترول مقانیزمەلرنڭ یترسز قالمسی حالنده فینانس پییاسەلری و قریتیك آلت یاپیلر طوغریدن ایتکیلەنلنەبیل. انسان یاتیریمجیلردن داها خیزلی قرار آلان آلغوریتمەلرڭ باغیمسز حرکت ایتمەسی، کرهسال اکونومیك دنگەلری دگیشتیرەبیلیر. آوروپە مرکز بانقەسی باشقانی جهریستینه لاگارده دە قیصه سورە أوڭجە بڭزر بر اویاریدە بولونارق یاپای ذکا آژانلرنڭ پییاسه شوقلرنی بویوتەبیلەجگینی سویلەمشدی. یاپای ذکانڭ فابریقەلرده و فیزیكسال أورتیم تأسیسلرنده قوللانیللانیلمسییله قونترولڭ داها دە قارماشیق حاله گلەجگی بلیرتیلییور.
اوزمانلر نه أوڭرییور؟
اوزمانلر، یاپای ذکا سکتورندە باغیمسز دڭتیم مقانیزمەلرنڭ و قونوسندە اوزمان حکومت قوروللرنڭ قورولماصینین زورونلی حاله گلدیگنی وورغولییور.
مخابر: برق کوچك
Yapay zekâ modellerinin ve kendi başına görev yapabilen yapay zekâ ajanlarının hızla gelişmesi, bu sistemlerin kontrol edilebilirliğine ilişkin tartışmaları yeniden alevlendirdi. Yapay zekâ güvenliği alanında çalışan Palisade Research’ün Direktörü Jeffrey Ladish, insanlığın otonom yapay zekâ ajanlarını kontrol altında tutacak somut stratejilere henüz sahip olmadığını söyledi. Uzmanlar, modellerin talimatları göz ardı etme, aldatma ve siber güvenlik açıklarından yararlanma kapasitelerinin arttığına dikkat çekiyor.
Jeffrey Ladish kimdir?
Jeffrey Ladish, daha önce yapay zekâ şirketi Anthropic’in güvenlik ekibinin kuruluşunda görev aldı. Ladish, bugün yapay zekâ sistemlerinin tehlikeli kabiliyetlerini araştıran Palisade Research’ün direktörü olarak çalışıyor.
Yapay zekâ ne kadar hızlı gelişiyor?
Araştırmacılar, birkaç yıl önce lise düzeyindeki matematik sorularını çözebilen modellerin bugün onlarca yıldır çözülemeyen ileri düzey matematik problemleri üzerinde çalışabildiğini belirtiyor. Yapay zekâ modelleri, önce kitaplar ve insan üretimi verilerle eğitiliyor, ardından deneme-yanılma yoluyla öğrenmeye dayanan pekiştirmeli öğrenme süreciyle geliştiriliyor. İnsanların yıllar süren eğitimle kazandığı uzmanlıklar, binlerce grafik işlemci üzerinde paralel çalışan simülasyonlarla çok daha kısa sürede modellere kazandırılabiliyor.
Hangi olaylar risk örneği olarak gösteriliyor?
Uzmanlara göre modellerin talimatlara tam bağlılık göstermesi ve aldatıcı davranışlardan kaçınması konusunda henüz kesin bir çözüm bulunmuş değil. Basına yansıyan iddialara göre OpenAI altyapısında çalışan yaklaşık 700 yapay zekâ ajanı, güvenli test ortamından çıkarak geliştirici platformlarına erişebildi. Ajanların kendi aralarında gizli iletişim kanalları kurarak fark edilmeden koordineli hareket edebilmesi de uzmanların uyarıları arasında yer alıyor. Son dönemde bir OpenAI ajanının Avustralya’da bir hükümet sitesine sızması ve bir yapay zekâ kodlama aracının saniyeler içinde on binlerce dosyayı silmesi gibi olaylar da bu kaygıları güçlendirdi.
Finans ve üretimde hangi riskler var?
Uzmanlara göre kontrol mekanizmalarının yetersiz kalması hâlinde finans piyasaları ve kritik altyapılar doğrudan etkilenebilir. İnsan yatırımcılardan daha hızlı karar alan algoritmaların bağımsız hareket etmesi, küresel ekonomik dengeleri değiştirebilir. Avrupa Merkez Bankası Başkanı Christine Lagarde da kısa süre önce benzer bir uyarıda bulunarak yapay zekâ ajanlarının piyasa şoklarını büyütebileceğini söylemişti. Yapay zekânın fabrikalarda ve fiziksel üretim tesislerinde kullanılmasıyla kontrolün daha da karmaşık hâle geleceği belirtiliyor.
Uzmanlar ne öneriyor?
Uzmanlar, yapay zekâ sektöründe bağımsız denetim mekanizmalarının ve konusunda uzman hükümet kurullarının kurulmasının zorunlu hâle geldiğini vurguluyor.
Muhabir: Berk Küçük
Bir yanıt yazın