نادلله: سوپر ذکا سیستملرنە “قپالی قطوع” معاملەسی یاپیلاماز، آجل فرن مقانیزمەسی شرط
Nadella: Süper zekâ sistemlerine “kapalı kutu” muamelesi yapılamaz, acil fren mekanizması şart
مکروسوفتMicrosoft یوڭتیمYönetim قورولیKurulu باشقانیBaşkanı وve جوسیCEO’su صاطیهSatya نادلله،Nadella, ١٠10 اکیمEkim ٢٠٢٦دە2026'da ایکسX حسابندنhesabından یاپدیغیyaptığı دگرلندیرمەدەdeğerlendirmede یاپایyapay ذکاzekâ گوگنلگنەgüvenliğine ایلیشکینilişkin أوڭریلرنیönerilerini پایلاشدی.paylaştı. نادلله،Nadella, سوپرsüper ذکاzekâ سیستملرنەsistemlerine بربرنڭbirbirinin ایچنەiçine گچمشgeçmiş قپالیkapalı قطوعلرkutular گبیgibi داورانیلامایاجاغینی،davranılamayacağını, چیقتیلرڭçıktıların طوغریدنdoğrudan قبولkabul یاya دەda ردتیلمسییلهreddedilmesiyle یتینیلمەیەجگینیyetinilemeyeceğini سویلەدی.söyledi. یاپایYapay ذکانڭzekânın گوگنgüven معماریسنڭmimarisinin باشدنbaştan الهele آلینمسیalınması گرکدیگنیgerektiğini صاوونانsavunan نادلله،Nadella, مودللرڭmodellerin سورچsüreç اورتەسندەortasında طوردیرولابیلمسنیdurdurulabilmesini صاغلایانsağlayan باغیمسزbağımsız قونترولkontrol مقانیزمەلرنەmekanizmalarına احتیاجihtiyaç اولدیغنیolduğunu بلیرتدی.belirtti.
نادللەنڭNadella’nın أوڭردیگیönerdiği گوگنلكgüvenlik یاقلاشیمیyaklaşımı نه؟ne?
ویزیونڭVizyonun مرکزندە،merkezinde, مودلڭmodelin کندیسیkendisi ایلەile اوڭیonu یونەتنyöneten أوپەراصیونلoperasyonel چرچوەنڭçerçevenin نتnet صینیرلرلهsınırlarla آیریلمسیayrılması وار.var. نادللەیەNadella’ya گورەgöre گلیشمشgelişmiş مودللرmodeller دترمینیستیكdeterministik اولمایانolmayan یاپیلریyapıları نه دنیلهnedeniyle گلەنكسالgeleneksel یازیلیملرyazılımlar گبیgibi تكtek برbir قودkod سطرنەsatırına اندیرگەنمەییور.indirgenemiyor. بوBu نەدنلەnedenle قونتروللرkontroller وve گوگنلكgüvenlik أوڭلملریönlemleri مودلڭmodelin طیشنەdışına طاشینملی.taşınmalı. مودللر،Modeller, سیستمەsisteme سزابیلەجكsızabilecek بررbirer ایچiç تهدیدtehdit گبیgibi دگرلندیریلملیdeğerlendirilmeli وve تاصاریمtasarım آشامەسیندنaşamasından اعتباراitibaren قونترولkontrol التندهaltında طوطولاجاكtutulacak شکلدەşekilde یاپیلاندیریلملی.yapılandırılmalı. نادللەیەNadella’ya گورەgöre اڭen گوگنیلیرgüvenilir سوپرsüper ذکاzekâ سیستمی،sistemi, مودلەmodele اڭen چوقçok گوگنیلنgüvenilen دگل،değil, مودلەmodele دویولانduyulan گوگنgüven احتیاجینیihtiyacını اڭen اعضاaza ایندیرنindiren سیستمsistem اولاجق.olacak.
انسانİnsan مداخلەسیmüdahalesi ناصلnasıl صاغلاناجق؟sağlanacak?
أوڭریلنÖnerilen یاپی،yapı, مودلڭmodelin آتدیغیattığı هرher آڭلاملیanlamlı آدیمڭadımın انسانلرinsanlar طرفندنtarafından اوقونابیلیرokunabilir وve مداخلهmüdahale ایدیلەمزedilemez قیدلرلهkayıtlarla بلگهلەنلنمسنیbelgelenmesini انگورییور.öngörüyor. نادلله،Nadella, یتکیلیyetkili برbir أوپەراطورونoperatörün گوروgörev صیرەسندەsırasında مودلیmodeli آڭندەanında طوردیرمهdurdurma یاya دەda تماماtamamen قپاتمهkapatma یتکیسینهyetkisine صاحبsahip اولمسیolması گرکدیگنیgerektiğini سویلەدی.söyledi. بوBu “آجل“acil فرن”fren” مقانیزمەسییلهmekanizmasıyla سیستملرڭsistemlerin بکلنمەدیكbeklenmedik یاya دەda تهلکەلیtehlikeli ایلملرeylemler گرچكلەشتیرمسیgerçekleştirmesi حالندهhâlinde آڭلقanlık انسانinsan مداخلەسنڭmüdahalesinin صاغلانمسیsağlanması هدفلنییور.hedefleniyor.
سکتوردهSektörde قونترولkontrol غائبیkaybı طارتیشمسیtartışması ناصلnasıl شکللەنلنییور؟şekilleniyor?
داهاDaha أوڭجەönce أوپەنایOpenAI جوسیCEO’su شامSam آلطمان،Altman, یاپایyapay ذکادنzekâdan قایناقلانانkaynaklanan بعضbazı ضررلرڭzararların طولەرهtolere أدیلەبیلەجەگینیedilebileceğini آنجقancak قونترولkontrol غائبیkaybı گبیgibi بویوكbüyük ریسكلرڭrisklerin اصلاasla قبولkabul أدیلەمەیەجەگینیedilemeyeceğini سویلەمشدی.söylemişti. نادللەنڭNadella’nın آجلacil فرنfren چاغریسیçağrısı بوbu اندیشەیلهendişeyle أورتوشییور.örtüşüyor. قایناقKaynak متنەmetne گورەgöre آچیقلامەلر،açıklamalar, أوڭدەönde گلنgelen لابوراتووارلردهlaboratuvarlarda مودللرڭmodellerin انگورولمەینöngörülemeyen طاورانیشلرdavranışlar سەرگیلەدیگیsergilediği اولایلرڭolayların آردندنardından گلدی.geldi. آنطحروپیجAnthropic جوسیCEO’su داریوDario آمودەینڭAmodei’nin دەde گچدیگمزgeçtiğimiz هفتەلردهhaftalarda صینیرsınır مودللرڭmodellerin گلیشیمgelişim خیزنڭhızının یاواشلاتیلمسیyavaşlatılması وve باغیمسزbağımsız دڭتیمdenetim چاغریسیçağrısı یاپدیغیyaptığı آقطاریلییور.aktarılıyor.
قایناق:Kaynak: آهAA
نادلله: سوپر ذکا سیستملرنە “قپالی قطوع” معاملەسی یاپیلاماز، آجل فرن مقانیزمەسی شرط
مکروسوفت یوڭتیم قورولی باشقانی و جوسی صاطیه نادلله، ١٠ اکیم ٢٠٢٦دە ایکس حسابندن یاپدیغی دگرلندیرمەدە یاپای ذکا گوگنلگنە ایلیشکین أوڭریلرنی پایلاشدی. نادلله، سوپر ذکا سیستملرنە بربرنڭ ایچنە گچمش قپالی قطوعلر گبی داورانیلامایاجاغینی، چیقتیلرڭ طوغریدن قبول یا دە ردتیلمسییله یتینیلمەیەجگینی سویلەدی. یاپای ذکانڭ گوگن معماریسنڭ باشدن اله آلینمسی گرکدیگنی صاوونان نادلله، مودللرڭ سورچ اورتەسندە طوردیرولابیلمسنی صاغلایان باغیمسز قونترول مقانیزمەلرنە احتیاج اولدیغنی بلیرتدی.
نادللەنڭ أوڭردیگی گوگنلك یاقلاشیمی نه؟
ویزیونڭ مرکزندە، مودلڭ کندیسی ایلە اوڭی یونەتن أوپەراصیونل چرچوەنڭ نت صینیرلرله آیریلمسی وار. نادللەیە گورە گلیشمش مودللر دترمینیستیك اولمایان یاپیلری نه دنیله گلەنكسال یازیلیملر گبی تك بر قود سطرنە اندیرگەنمەییور. بو نەدنلە قونتروللر و گوگنلك أوڭلملری مودلڭ طیشنە طاشینملی. مودللر، سیستمە سزابیلەجك برر ایچ تهدید گبی دگرلندیریلملی و تاصاریم آشامەسیندن اعتبارا قونترول التنده طوطولاجاك شکلدە یاپیلاندیریلملی. نادللەیە گورە اڭ گوگنیلیر سوپر ذکا سیستمی، مودلە اڭ چوق گوگنیلن دگل، مودلە دویولان گوگن احتیاجینی اڭ اعضا ایندیرن سیستم اولاجق.
انسان مداخلەسی ناصل صاغلاناجق؟
أوڭریلن یاپی، مودلڭ آتدیغی هر آڭلاملی آدیمڭ انسانلر طرفندن اوقونابیلیر و مداخله ایدیلەمز قیدلرله بلگهلەنلنمسنی انگورییور. نادلله، یتکیلی بر أوپەراطورون گورو صیرەسندە مودلی آڭندە طوردیرمه یا دە تماما قپاتمه یتکیسینه صاحب اولمسی گرکدیگنی سویلەدی. بو “آجل فرن” مقانیزمەسییله سیستملرڭ بکلنمەدیك یا دە تهلکەلی ایلملر گرچكلەشتیرمسی حالنده آڭلق انسان مداخلەسنڭ صاغلانمسی هدفلنییور.
سکتورده قونترول غائبی طارتیشمسی ناصل شکللەنلنییور؟
داها أوڭجە أوپەنای جوسی شام آلطمان، یاپای ذکادن قایناقلانان بعض ضررلرڭ طولەره أدیلەبیلەجەگینی آنجق قونترول غائبی گبی بویوك ریسكلرڭ اصلا قبول أدیلەمەیەجەگینی سویلەمشدی. نادللەنڭ آجل فرن چاغریسی بو اندیشەیله أورتوشییور. قایناق متنە گورە آچیقلامەلر، أوڭدە گلن لابوراتووارلرده مودللرڭ انگورولمەین طاورانیشلر سەرگیلەدیگی اولایلرڭ آردندن گلدی. آنطحروپیج جوسی داریو آمودەینڭ دە گچدیگمز هفتەلرده صینیر مودللرڭ گلیشیم خیزنڭ یاواشلاتیلمسی و باغیمسز دڭتیم چاغریسی یاپدیغی آقطاریلییور.
قایناق: آه
نادللەنڭ أوڭردیگی گوگنلك یاقلاشیمی نه؟
ویزیونڭ مرکزندە، مودلڭ کندیسی ایلە اوڭی یونەتن أوپەراصیونل چرچوەنڭ نت صینیرلرله آیریلمسی وار. نادللەیە گورە گلیشمش مودللر دترمینیستیك اولمایان یاپیلری نه دنیله گلەنكسال یازیلیملر گبی تك بر قود سطرنە اندیرگەنمەییور. بو نەدنلە قونتروللر و گوگنلك أوڭلملری مودلڭ طیشنە طاشینملی. مودللر، سیستمە سزابیلەجك برر ایچ تهدید گبی دگرلندیریلملی و تاصاریم آشامەسیندن اعتبارا قونترول التنده طوطولاجاك شکلدە یاپیلاندیریلملی. نادللەیە گورە اڭ گوگنیلیر سوپر ذکا سیستمی، مودلە اڭ چوق گوگنیلن دگل، مودلە دویولان گوگن احتیاجینی اڭ اعضا ایندیرن سیستم اولاجق.
انسان مداخلەسی ناصل صاغلاناجق؟
أوڭریلن یاپی، مودلڭ آتدیغی هر آڭلاملی آدیمڭ انسانلر طرفندن اوقونابیلیر و مداخله ایدیلەمز قیدلرله بلگهلەنلنمسنی انگورییور. نادلله، یتکیلی بر أوپەراطورون گورو صیرەسندە مودلی آڭندە طوردیرمه یا دە تماما قپاتمه یتکیسینه صاحب اولمسی گرکدیگنی سویلەدی. بو “آجل فرن” مقانیزمەسییله سیستملرڭ بکلنمەدیك یا دە تهلکەلی ایلملر گرچكلەشتیرمسی حالنده آڭلق انسان مداخلەسنڭ صاغلانمسی هدفلنییور.
سکتورده قونترول غائبی طارتیشمسی ناصل شکللەنلنییور؟
داها أوڭجە أوپەنای جوسی شام آلطمان، یاپای ذکادن قایناقلانان بعض ضررلرڭ طولەره أدیلەبیلەجەگینی آنجق قونترول غائبی گبی بویوك ریسكلرڭ اصلا قبول أدیلەمەیەجەگینی سویلەمشدی. نادللەنڭ آجل فرن چاغریسی بو اندیشەیله أورتوشییور. قایناق متنە گورە آچیقلامەلر، أوڭدە گلن لابوراتووارلرده مودللرڭ انگورولمەین طاورانیشلر سەرگیلەدیگی اولایلرڭ آردندن گلدی. آنطحروپیج جوسی داریو آمودەینڭ دە گچدیگمز هفتەلرده صینیر مودللرڭ گلیشیم خیزنڭ یاواشلاتیلمسی و باغیمسز دڭتیم چاغریسی یاپدیغی آقطاریلییور.
قایناق: آه
Nadella: Süper zekâ sistemlerine “kapalı kutu” muamelesi yapılamaz, acil fren mekanizması şart
Microsoft Yönetim Kurulu Başkanı ve CEO’su Satya Nadella, 10 Ekim 2026’da X hesabından yaptığı değerlendirmede yapay zekâ güvenliğine ilişkin önerilerini paylaştı. Nadella, süper zekâ sistemlerine birbirinin içine geçmiş kapalı kutular gibi davranılamayacağını, çıktıların doğrudan kabul ya da reddedilmesiyle yetinilemeyeceğini söyledi. Yapay zekânın güven mimarisinin baştan ele alınması gerektiğini savunan Nadella, modellerin süreç ortasında durdurulabilmesini sağlayan bağımsız kontrol mekanizmalarına ihtiyaç olduğunu belirtti.
Nadella’nın önerdiği güvenlik yaklaşımı ne?
Vizyonun merkezinde, modelin kendisi ile onu yöneten operasyonel çerçevenin net sınırlarla ayrılması var. Nadella’ya göre gelişmiş modeller deterministik olmayan yapıları nedeniyle geleneksel yazılımlar gibi tek bir kod satırına indirgenemiyor. Bu nedenle kontroller ve güvenlik önlemleri modelin dışına taşınmalı. Modeller, sisteme sızabilecek birer iç tehdit gibi değerlendirilmeli ve tasarım aşamasından itibaren kontrol altında tutulacak şekilde yapılandırılmalı. Nadella’ya göre en güvenilir süper zekâ sistemi, modele en çok güvenilen değil, modele duyulan güven ihtiyacını en aza indiren sistem olacak.
İnsan müdahalesi nasıl sağlanacak?
Önerilen yapı, modelin attığı her anlamlı adımın insanlar tarafından okunabilir ve müdahale edilemez kayıtlarla belgelenmesini öngörüyor. Nadella, yetkili bir operatörün görev sırasında modeli anında durdurma ya da tamamen kapatma yetkisine sahip olması gerektiğini söyledi. Bu “acil fren” mekanizmasıyla sistemlerin beklenmedik ya da tehlikeli eylemler gerçekleştirmesi hâlinde anlık insan müdahalesinin sağlanması hedefleniyor.
Sektörde kontrol kaybı tartışması nasıl şekilleniyor?
Daha önce OpenAI CEO’su Sam Altman, yapay zekâdan kaynaklanan bazı zararların tolere edilebileceğini ancak kontrol kaybı gibi büyük risklerin asla kabul edilemeyeceğini söylemişti. Nadella’nın acil fren çağrısı bu endişeyle örtüşüyor. Kaynak metne göre açıklamalar, önde gelen laboratuvarlarda modellerin öngörülemeyen davranışlar sergilediği olayların ardından geldi. Anthropic CEO’su Dario Amodei’nin de geçtiğimiz haftalarda sınır modellerin gelişim hızının yavaşlatılması ve bağımsız denetim çağrısı yaptığı aktarılıyor.
Kaynak: AA
Nadella’nın önerdiği güvenlik yaklaşımı ne?
Vizyonun merkezinde, modelin kendisi ile onu yöneten operasyonel çerçevenin net sınırlarla ayrılması var. Nadella’ya göre gelişmiş modeller deterministik olmayan yapıları nedeniyle geleneksel yazılımlar gibi tek bir kod satırına indirgenemiyor. Bu nedenle kontroller ve güvenlik önlemleri modelin dışına taşınmalı. Modeller, sisteme sızabilecek birer iç tehdit gibi değerlendirilmeli ve tasarım aşamasından itibaren kontrol altında tutulacak şekilde yapılandırılmalı. Nadella’ya göre en güvenilir süper zekâ sistemi, modele en çok güvenilen değil, modele duyulan güven ihtiyacını en aza indiren sistem olacak.
İnsan müdahalesi nasıl sağlanacak?
Önerilen yapı, modelin attığı her anlamlı adımın insanlar tarafından okunabilir ve müdahale edilemez kayıtlarla belgelenmesini öngörüyor. Nadella, yetkili bir operatörün görev sırasında modeli anında durdurma ya da tamamen kapatma yetkisine sahip olması gerektiğini söyledi. Bu “acil fren” mekanizmasıyla sistemlerin beklenmedik ya da tehlikeli eylemler gerçekleştirmesi hâlinde anlık insan müdahalesinin sağlanması hedefleniyor.
Sektörde kontrol kaybı tartışması nasıl şekilleniyor?
Daha önce OpenAI CEO’su Sam Altman, yapay zekâdan kaynaklanan bazı zararların tolere edilebileceğini ancak kontrol kaybı gibi büyük risklerin asla kabul edilemeyeceğini söylemişti. Nadella’nın acil fren çağrısı bu endişeyle örtüşüyor. Kaynak metne göre açıklamalar, önde gelen laboratuvarlarda modellerin öngörülemeyen davranışlar sergilediği olayların ardından geldi. Anthropic CEO’su Dario Amodei’nin de geçtiğimiz haftalarda sınır modellerin gelişim hızının yavaşlatılması ve bağımsız denetim çağrısı yaptığı aktarılıyor.
Kaynak: AA
📖 Osmanlıca Orijinal Metin
نادلله: سوپر ذکا سیستملرنە “قپالی قطوع” معاملەسی یاپیلاماز، آجل فرن مقانیزمەسی شرط
مکروسوفت یوڭتیم قورولی باشقانی و جوسی صاطیه نادلله، ١٠ اکیم ٢٠٢٦دە ایکس حسابندن یاپدیغی دگرلندیرمەدە یاپای ذکا گوگنلگنە ایلیشکین أوڭریلرنی پایلاشدی. نادلله، سوپر ذکا سیستملرنە بربرنڭ ایچنە گچمش قپالی قطوعلر گبی داورانیلامایاجاغینی، چیقتیلرڭ طوغریدن قبول یا دە ردتیلمسییله یتینیلمەیەجگینی سویلەدی. یاپای ذکانڭ گوگن معماریسنڭ باشدن اله آلینمسی گرکدیگنی صاوونان نادلله، مودللرڭ سورچ اورتەسندە طوردیرولابیلمسنی صاغلایان باغیمسز قونترول مقانیزمەلرنە احتیاج اولدیغنی بلیرتدی.نادللەنڭ أوڭردیگی گوگنلك یاقلاشیمی نه؟
ویزیونڭ مرکزندە، مودلڭ کندیسی ایلە اوڭی یونەتن أوپەراصیونل چرچوەنڭ نت صینیرلرله آیریلمسی وار. نادللەیە گورە گلیشمش مودللر دترمینیستیك اولمایان یاپیلری نه دنیله گلەنكسال یازیلیملر گبی تك بر قود سطرنە اندیرگەنمەییور. بو نەدنلە قونتروللر و گوگنلك أوڭلملری مودلڭ طیشنە طاشینملی. مودللر، سیستمە سزابیلەجك برر ایچ تهدید گبی دگرلندیریلملی و تاصاریم آشامەسیندن اعتبارا قونترول التنده طوطولاجاك شکلدە یاپیلاندیریلملی. نادللەیە گورە اڭ گوگنیلیر سوپر ذکا سیستمی، مودلە اڭ چوق گوگنیلن دگل، مودلە دویولان گوگن احتیاجینی اڭ اعضا ایندیرن سیستم اولاجق.
انسان مداخلەسی ناصل صاغلاناجق؟
أوڭریلن یاپی، مودلڭ آتدیغی هر آڭلاملی آدیمڭ انسانلر طرفندن اوقونابیلیر و مداخله ایدیلەمز قیدلرله بلگهلەنلنمسنی انگورییور. نادلله، یتکیلی بر أوپەراطورون گورو صیرەسندە مودلی آڭندە طوردیرمه یا دە تماما قپاتمه یتکیسینه صاحب اولمسی گرکدیگنی سویلەدی. بو “آجل فرن” مقانیزمەسییله سیستملرڭ بکلنمەدیك یا دە تهلکەلی ایلملر گرچكلەشتیرمسی حالنده آڭلق انسان مداخلەسنڭ صاغلانمسی هدفلنییور.
سکتورده قونترول غائبی طارتیشمسی ناصل شکللەنلنییور؟
داها أوڭجە أوپەنای جوسی شام آلطمان، یاپای ذکادن قایناقلانان بعض ضررلرڭ طولەره أدیلەبیلەجەگینی آنجق قونترول غائبی گبی بویوك ریسكلرڭ اصلا قبول أدیلەمەیەجەگینی سویلەمشدی. نادللەنڭ آجل فرن چاغریسی بو اندیشەیله أورتوشییور. قایناق متنە گورە آچیقلامەلر، أوڭدە گلن لابوراتووارلرده مودللرڭ انگورولمەین طاورانیشلر سەرگیلەدیگی اولایلرڭ آردندن گلدی. آنطحروپیج جوسی داریو آمودەینڭ دە گچدیگمز هفتەلرده صینیر مودللرڭ گلیشیم خیزنڭ یاواشلاتیلمسی و باغیمسز دڭتیم چاغریسی یاپدیغی آقطاریلییور.
قایناق: آه
🔤 Latinize Transkripsiyon (Çeviriyazı)
Nadella: Süper zekâ sistemlerine “kapalı kutu” muamelesi yapılamaz, acil fren mekanizması şart
Microsoft Yönetim Kurulu Başkanı ve CEO’su Satya Nadella, 10 Ekim 2026’da X hesabından yaptığı değerlendirmede yapay zekâ güvenliğine ilişkin önerilerini paylaştı. Nadella, süper zekâ sistemlerine birbirinin içine geçmiş kapalı kutular gibi davranılamayacağını, çıktıların doğrudan kabul ya da reddedilmesiyle yetinilemeyeceğini söyledi. Yapay zekânın güven mimarisinin baştan ele alınması gerektiğini savunan Nadella, modellerin süreç ortasında durdurulabilmesini sağlayan bağımsız kontrol mekanizmalarına ihtiyaç olduğunu belirtti.Nadella’nın önerdiği güvenlik yaklaşımı ne?
Vizyonun merkezinde, modelin kendisi ile onu yöneten operasyonel çerçevenin net sınırlarla ayrılması var. Nadella’ya göre gelişmiş modeller deterministik olmayan yapıları nedeniyle geleneksel yazılımlar gibi tek bir kod satırına indirgenemiyor. Bu nedenle kontroller ve güvenlik önlemleri modelin dışına taşınmalı. Modeller, sisteme sızabilecek birer iç tehdit gibi değerlendirilmeli ve tasarım aşamasından itibaren kontrol altında tutulacak şekilde yapılandırılmalı. Nadella’ya göre en güvenilir süper zekâ sistemi, modele en çok güvenilen değil, modele duyulan güven ihtiyacını en aza indiren sistem olacak.
İnsan müdahalesi nasıl sağlanacak?
Önerilen yapı, modelin attığı her anlamlı adımın insanlar tarafından okunabilir ve müdahale edilemez kayıtlarla belgelenmesini öngörüyor. Nadella, yetkili bir operatörün görev sırasında modeli anında durdurma ya da tamamen kapatma yetkisine sahip olması gerektiğini söyledi. Bu “acil fren” mekanizmasıyla sistemlerin beklenmedik ya da tehlikeli eylemler gerçekleştirmesi hâlinde anlık insan müdahalesinin sağlanması hedefleniyor.
Sektörde kontrol kaybı tartışması nasıl şekilleniyor?
Daha önce OpenAI CEO’su Sam Altman, yapay zekâdan kaynaklanan bazı zararların tolere edilebileceğini ancak kontrol kaybı gibi büyük risklerin asla kabul edilemeyeceğini söylemişti. Nadella’nın acil fren çağrısı bu endişeyle örtüşüyor. Kaynak metne göre açıklamalar, önde gelen laboratuvarlarda modellerin öngörülemeyen davranışlar sergilediği olayların ardından geldi. Anthropic CEO’su Dario Amodei’nin de geçtiğimiz haftalarda sınır modellerin gelişim hızının yavaşlatılması ve bağımsız denetim çağrısı yaptığı aktarılıyor.
Kaynak: AA
📚 Metinde Geçen Kelimelerin Lugatçesi
Nadella
➔
نادلله<br />
Kontrol
➔
قونترول<br />
Yapay
➔
یاپای<br />
Zekâ
➔
ذکا<br />
Modellerin
➔
مودللرڭ<br />
Modelin
➔
مودلڭ<br />
Yaptığı
➔
یاپدیغی<br />
Süper
➔
سوپر<br />
Kabul
➔
قبول<br />
Söyledi
➔
سویلەدی<br />
Güven
➔
گوگن<br />
Gerektiğini
➔
گرکدیگنی<br />
Bağımsız
➔
باغیمسز<br />
Güvenlik
➔
گوگنلك<br />
Modeller
➔
مودللر<br />
Modele
➔
مودلە<br />
Acil
➔
آجل<br />
Fren
➔
فرن<br />
Kaybı
➔
غائبی<br />
Çağrısı
➔
چاغریسی<br />
Kaynak
➔
قایناق<br />
Microsoft
➔
مکروسوفت<br />
Yönetim
➔
یوڭتیم<br />
Kurulu
➔
قورولی<br />
Başkanı
➔
باشقانی<br />
Satya
➔
صاطیه<br />
Ekim
➔
اکیم<br />
Hesabından
➔
حسابندن<br />
Değerlendirmede
➔
دگرلندیرمەدە<br />
Güvenliğine
➔
گوگنلگنە
مکروسوفت یوڭتیم قورولی باشقانی و جوسی صاطیه نادلله، ١٠ اکیم ٢٠٢٦دە ایکس حسابندن یاپدیغی دگرلندیرمەدە یاپای ذکا گوگنلگنە ایلیشکین أوڭریلرنی پایلاشدی. نادلله، سوپر ذکا سیستملرنە بربرنڭ ایچنە گچمش قپالی قطوعلر گبی داورانیلامایاجاغینی، چیقتیلرڭ طوغریدن قبول یا دە ردتیلمسییله یتینیلمەیەجگینی سویلەدی. یاپای ذکانڭ گوگن معماریسنڭ باشدن اله آلینمسی گرکدیگنی صاوونان نادلله، مودللرڭ سورچ اورتەسندە طوردیرولابیلمسنی صاغلایان باغیمسز قونترول مقانیزمەلرنە احتیاج اولدیغنی بلیرتدی.
نادللەنڭ أوڭردیگی گوگنلك یاقلاشیمی نه؟
ویزیونڭ مرکزندە، مودلڭ کندیسی ایلە اوڭی یونەتن أوپەراصیونل چرچوەنڭ نت صینیرلرله آیریلمسی وار. نادللەیە گورە گلیشمش مودللر دترمینیستیك اولمایان یاپیلری نه دنیله گلەنكسال یازیلیملر گبی تك بر قود سطرنە اندیرگەنمەییور. بو نەدنلە قونتروللر و گوگنلك أوڭلملری مودلڭ طیشنە طاشینملی. مودللر، سیستمە سزابیلەجك برر ایچ تهدید گبی دگرلندیریلملی و تاصاریم آشامەسیندن اعتبارا قونترول التنده طوطولاجاك شکلدە یاپیلاندیریلملی. نادللەیە گورە اڭ گوگنیلیر سوپر ذکا سیستمی، مودلە اڭ چوق گوگنیلن دگل، مودلە دویولان گوگن احتیاجینی اڭ اعضا ایندیرن سیستم اولاجق.
انسان مداخلەسی ناصل صاغلاناجق؟
أوڭریلن یاپی، مودلڭ آتدیغی هر آڭلاملی آدیمڭ انسانلر طرفندن اوقونابیلیر و مداخله ایدیلەمز قیدلرله بلگهلەنلنمسنی انگورییور. نادلله، یتکیلی بر أوپەراطورون گورو صیرەسندە مودلی آڭندە طوردیرمه یا دە تماما قپاتمه یتکیسینه صاحب اولمسی گرکدیگنی سویلەدی. بو “آجل فرن” مقانیزمەسییله سیستملرڭ بکلنمەدیك یا دە تهلکەلی ایلملر گرچكلەشتیرمسی حالنده آڭلق انسان مداخلەسنڭ صاغلانمسی هدفلنییور.
سکتورده قونترول غائبی طارتیشمسی ناصل شکللەنلنییور؟
داها أوڭجە أوپەنای جوسی شام آلطمان، یاپای ذکادن قایناقلانان بعض ضررلرڭ طولەره أدیلەبیلەجەگینی آنجق قونترول غائبی گبی بویوك ریسكلرڭ اصلا قبول أدیلەمەیەجەگینی سویلەمشدی. نادللەنڭ آجل فرن چاغریسی بو اندیشەیله أورتوشییور. قایناق متنە گورە آچیقلامەلر، أوڭدە گلن لابوراتووارلرده مودللرڭ انگورولمەین طاورانیشلر سەرگیلەدیگی اولایلرڭ آردندن گلدی. آنطحروپیج جوسی داریو آمودەینڭ دە گچدیگمز هفتەلرده صینیر مودللرڭ گلیشیم خیزنڭ یاواشلاتیلمسی و باغیمسز دڭتیم چاغریسی یاپدیغی آقطاریلییور.
قایناق: آه
Microsoft Yönetim Kurulu Başkanı ve CEO’su Satya Nadella, 10 Ekim 2026’da X hesabından yaptığı değerlendirmede yapay zekâ güvenliğine ilişkin önerilerini paylaştı. Nadella, süper zekâ sistemlerine birbirinin içine geçmiş kapalı kutular gibi davranılamayacağını, çıktıların doğrudan kabul ya da reddedilmesiyle yetinilemeyeceğini söyledi. Yapay zekânın güven mimarisinin baştan ele alınması gerektiğini savunan Nadella, modellerin süreç ortasında durdurulabilmesini sağlayan bağımsız kontrol mekanizmalarına ihtiyaç olduğunu belirtti.
Nadella’nın önerdiği güvenlik yaklaşımı ne?
Vizyonun merkezinde, modelin kendisi ile onu yöneten operasyonel çerçevenin net sınırlarla ayrılması var. Nadella’ya göre gelişmiş modeller deterministik olmayan yapıları nedeniyle geleneksel yazılımlar gibi tek bir kod satırına indirgenemiyor. Bu nedenle kontroller ve güvenlik önlemleri modelin dışına taşınmalı. Modeller, sisteme sızabilecek birer iç tehdit gibi değerlendirilmeli ve tasarım aşamasından itibaren kontrol altında tutulacak şekilde yapılandırılmalı. Nadella’ya göre en güvenilir süper zekâ sistemi, modele en çok güvenilen değil, modele duyulan güven ihtiyacını en aza indiren sistem olacak.
İnsan müdahalesi nasıl sağlanacak?
Önerilen yapı, modelin attığı her anlamlı adımın insanlar tarafından okunabilir ve müdahale edilemez kayıtlarla belgelenmesini öngörüyor. Nadella, yetkili bir operatörün görev sırasında modeli anında durdurma ya da tamamen kapatma yetkisine sahip olması gerektiğini söyledi. Bu “acil fren” mekanizmasıyla sistemlerin beklenmedik ya da tehlikeli eylemler gerçekleştirmesi hâlinde anlık insan müdahalesinin sağlanması hedefleniyor.
Sektörde kontrol kaybı tartışması nasıl şekilleniyor?
Daha önce OpenAI CEO’su Sam Altman, yapay zekâdan kaynaklanan bazı zararların tolere edilebileceğini ancak kontrol kaybı gibi büyük risklerin asla kabul edilemeyeceğini söylemişti. Nadella’nın acil fren çağrısı bu endişeyle örtüşüyor. Kaynak metne göre açıklamalar, önde gelen laboratuvarlarda modellerin öngörülemeyen davranışlar sergilediği olayların ardından geldi. Anthropic CEO’su Dario Amodei’nin de geçtiğimiz haftalarda sınır modellerin gelişim hızının yavaşlatılması ve bağımsız denetim çağrısı yaptığı aktarılıyor.
Kaynak: AA
Bir yanıt yazın