OpenAI'nin Patlamasından Sonra "Yapay Zeka Güvenliği"nin Gerçek Bir Şey olmadığı Oldukça Açık Görünüyor - Dünyadan Güncel Teknoloji Haberleri

OpenAI'nin Patlamasından Sonra
Bu hafta, komedyenin (telif hakkı ihlalleriyle suçlandığı) teknoloji devlerine karşı açtığı davanın başarısızlıkla sonuçlandığı ortaya çıktı Çarşamba günü, bu haftaki güç mücadelesinin kaosu sona ererken rapçi tweet attı: “710 plus’a selam ve tebrikler@OpenAI benzersiz bir sadakat, sevgi ve bağlılık gösterisi sergileyen ekip üyeleri @sama Ve @gdb bu tehlikeli zamanlarda şahit olmak çok güzel bir şeydi

Bütün bunlar söylendiğinde, Altman’ın görevden alınmasının gerçek nedenleri hâlâ kamuoyuna açıklanmadığı için, hafta sonu yaşanan olaylara ilişkin bu yorumu henüz tam olarak desteklemememiz gerektiğini öne sürebilirsiniz Silverman yalnız değil Bununla birlikte, bu davalar başarısız gibi görünse de, başarılı olmaları için mesele sadece uygun yasal argümanı bulma meselesi olabilir

Bölümün dramasının büyük kısmı, Altman ile yönetim kurulu arasındaki “Yapay Zeka güvenliği” konusundaki tartışmanın etrafında dönüyor gibi görünüyor Sonrasında fırlatma Şirket, yönetim kurulundaki tek iki kadının mali görevli Larry Summers

Neden Herkes Yapay Zeka Şirketlerine Dava Açıyor? | Geleceğin Teknolojisi

Neyse, kahretsin ”

  • Yaratıcılar yapay zeka telif hakkı savaşını kaybediyor Belki startup’ı görmüşsündür kuruluş şeması İnternette dolaşıyoruz ama eğer yapmadıysanız, işte size kısa bir özet: Var olan diğer teknoloji şirketlerinin hemen hemen hepsinden farklı olarak OpenAI, aslında kar amacı gütmeyenTamamen kendi yönetim kurulu tarafından yönetilen, kâr amacı güden bir şirketi işleten ve kontrol eden Daha sonra, Microsoft’un devrilen CEO’nun arkasında duracağı netleştikçe anlatı ve memler değişti Sarah Silverman’ın OpenAI ve Meta’ya karşı açtığı dava pek iyi gitmiyor türler tamamen memlerden Yani buna rağmen Microsoft, OpenAI’ye megaton miktarda para ve kaynak akıttı, girişimin yönetim kurulunun (varsayımsal olarak) ürünlerine ve teknolojisine ne olacağı konusunda son sözü söylemesi gerekiyor Daha sonra OpenAI’nin güçlü ortağı ve fon sağlayıcısı Microsoft’un yanı sıra bir startup personelinin çoğunluğudaha sonra bir karşı darbeye öncülük ederek hainleri dışarı attı ve kendisini şirketin lideri olarak yeniden görevlendirdi Bir dizi görsel sanatçının Midjourney ve Stability AI’ye karşı açtığı dava hepsi dışarı atıldı Geçen ay bir hakim tarafından Pek çok kişinin belirttiği gibi, kuruluşun etik misyonu, kuruluşa yatırım yapanların ekonomik çıkarlarıyla doğrudan çatışıyor gibi görünüyor Şirketler sattıkları teknolojilerin endişe verici ve yıkıcı olabileceğinin farkındadır; tüketicileri ve toplumu korumak için ellerinden geleni yaptıklarına dair kamuoyuna güvence vermek istiyorlar

    Diğer yazarlar zaten teklif etti arızalar OpenAI’nin benzersiz organizasyon yapısının onu nasıl kendisiyle çatışma rotasına soktuğu hakkında Bununla birlikte, hakimiyetini yeniden tesis eden korkak, para takıntılı üst düzey yöneticilere de güvenemeyeceğimizi düşünüyorum Böyle bir gruba, sözde “süper zeki”, dünyayı sarsan bir teknolojiyi denetleme konusunda tam olarak nasıl güvenilebilir? Eğer bir grup öfkeli yatırımcıyı alt edemiyorsanız, muhtemelen inşa ettiğini iddia ettiğiniz Skynet tipi varlığı alt edemezsiniz Imo, onlar açıkça doğru şeyi yapmayacağım Aslında artık biliyoruz ki, sözde kurşun geçirmez organizasyon yapısına ve belirtilen sorumlu yapay zeka geliştirme misyonuna rağmen, OpenAI’nin etiği paranın önüne koymasına asla izin verilmeyecek Şirketin kurucusu ve CEO’su Kyle Vogt, istifa Pazartesi günü Kaliforniya eyaleti, şirketi bir yayanın yaşadığı şiddet olayıyla ilgili önemli ayrıntıları açıklamamakla suçladı

    Bu haftanın diğer başlıkları
    • Gerçekten kötü bir hafta geçiren diğer yapay zeka şirketi Bir taraf diğerine kesinlikle üstün geldi (ipucu: para tarafıydı) Altman’ın devrilmesinin hemen ardından çok sayıda olay yaşandı Bu tasarımın, kuruluşun para yerine kamu yararını gözetme misyonuna öncelik vermesi gerekiyor Bu haftanın tuhaflığına ek olarak, “U Can’t Touch This” rapçisi MC Hammer’ın onaylanmış bir OpenAI hayranı olduğunu da öğrendik Bu arada alternatif teoriler de ortaya çıktı; bazıları Altman’ın agresif çıkışının gerçek nedenlerinin kesinlikle daha renkli olduğunu ileri sürdü; tıpkı onun yönelttiği suçlamalar gibi OpenAI’ler kendi kendini tanımlama ana amacının para kazanmak değil, dünyayı daha iyi bir yer haline getirmek olduğu şeklindeki idealist düşünceyi destekliyor:

      OpenAI’nin yapısını (orijinal Kâr Amacı Gütmeyen Kuruluşumuz ile yeni sınırlı kâr kolu arasındaki bir ortaklık) OpenAI’nin misyonu için bir çerçeve olarak tasarladık: güvenli ve tüm insanlığa fayda sağlayan yapay genel zeka (AGI) oluşturmak Elbette şunlar vardı: Halefiyet Mizah Hafta sonu, “Yapay Zeka güvenliği” hakkındaki anlatı ortaya çıktıkça, bu inanç sisteminin daha ateşli taraftarlarından bazıları X’i tercih etti Peki bu iki şey ne zaman çelişmedi?

      Günün sorusu: OpenAI dramasından ortaya çıkan en iyi meme hangisiydi?

      Bu haftanın benzeri görülmemiş bir karmaşa o kadar çok mem ve alaycı yaklaşıma ilham kaynağı oldu ki, bir favori seçme yeteneği neredeyse imkansız görünüyor Sam’in tüm endüstri bağlantılarına sahip olduğunu, yüksek mevkilerdeki arkadaşlarının olduğunu, çok sevildiğini ve bu tür bir sosyal sermayenin her şey olduğu bir dünyada ona karşı çıkmanın kariyer intiharı anlamına geldiğini anlamamış gibi görünüyorlar OpenAI bu hafta zor durumda kalan tek teknoloji firması değil Ancak şirketin işi berbat San Francisco’da araçların piyasaya sürülmesi Ağustos ayındaki olay, şehir sakinleri ve kamu güvenliği yetkilileri tarafından yaygın bir şaşkınlığa ve çok sayıda şikayete yol açtı

      Pek çok kişinin ifade ettiği şekliyle “darbe”, büyük ölçüde Sam ile OpenAI yönetim kurulu arasında şirketteki teknolojik gelişmenin hızı konusunda yaşanan ideolojik ayrılığa atfedildi hakkında şakalar da vardı kimin yerine geçmeli Altman ve ne sebep olmuş olabilir Güç mücadelesi her şeyden önce Bu anlatıya göre, organizasyonun gidişatı üzerinde nihai söz sahibi olması gereken yönetim kurulu, Altman’ın teknolojiyi ticarileştirme hızı konusunda endişelive onu aşırı bir önyargıyla kovmaya karar verdi Konuya ilişkin bir örnek: Bu hafta sonu yaşanan olay, sektörde zaten oldukça radikal olan güvenlik karşıtı ideolojiyi daha da radikalleştirmiş gibi görünüyor

      OpenAI krizinin yarattığı anlaşmazlık çözüme kavuştukça, şirketin her zamanki gibi işine geri dönmek için iyi bir konumda olduğu görülüyor Teknoloji endüstrisi söz konusu olduğunda, son birkaç günde meydana gelen olaylardan daha şok edici bir dizi olayın yaşanıp yaşanmadığını söylemek zor General Motors’un sahibi olduğu robotaksi şirketi Cruise da oldukça zorlu bir süreçten geçiyor Bunu bizzat buldum derin sahte video Altman’ın yüzünü Jordan Belfort’unkiyle değiştiriyor Para Avcısı iyi biri olmak





    genel-7

    Ancak OpenAI’nin draması için belirli katalizörler hakkında spekülasyon yapmakta çok fazla takılıp kalmak, tüm bölümün ortaya çıkardığı şeyi görmezden gelmek anlamına gelir: Gerçek dünya söz konusu olduğunda, Silikon Vadisi’ndeki “Yapay Zeka güvenliği” neredeyse geçersiz ve hükümsüzdür ek finansman peşinde koştu otokratik Ortadoğu rejimleri aracılığıyla saldırı olarak algıladıkları şeyi kınadılar bölümün gerçek kurbanı hakkında (kapitalizm elbette)

    Yönetim kurulunun başarısızlığıyla, OpenAI’nin iyilikseverlerinin yalnızca kendi “güvenlik” misyonlarını geriletmekle kalmayıp, aynı zamanda AI etik hareketine karşı büyük bir tepkiyi de başlatmış olabileceği açık görünüyor OpenAI yönetim kuruluyla alay etti Altman’a karşı yapılan darbeyi tamamen ortadan kaldırdığı için Bunun nedeni, patronlarını kovduklarında ortaya çıkacak öngörülebilir sonucu tahmin bile edemeyen bir grup insana güvenmenin oldukça zor olmasıdır Yani aslında insanlık bir kaya ile sert bir yer arasında sıkışmış durumda Çoğunlukla şirket üyeleri ya konuşmuyoruz Sam’in dışarı atılmasının veya atılmasının nedenleri hakkında açıkça reddedildi onun görevden alınmasının yapay zeka güvenliğiyle bir ilgisi olduğunu söyledi Ancak günün sonunda, şirketin “ahlakının” parasıyla çelişmesi durumunda bu çabaların bir fark yaratacağına inanmamız için hiçbir neden olmadığını artık biliyoruz Bununla birlikte, organizasyonun şirket kısmı on milyarlarca dolar değerinde olduğu bildirildi Aslında skandal birkaç farklı olaya yol açtı

    Teknoloji endüstrisinin “etik” ve “güvenliği” benimsemesinin asıl amacı bir dereceye kadar güvence ile ilgilidir

    Açık olmak gerekirse, yapay zeka güvenliği gerçekten önemli bir alandır ve eğer gerçekten kurumsal Amerika tarafından uygulansaydı, bu bir şey olurdu Her zamanki gibi para kazandı Bununla birlikte, yorumlarda en sevdiğiniz kişinin sesini kısın Vogt, şirketi 2013 yılında kurdu ve onu otomatikleştirilmiş seyahat endüstrisinde önemli bir yere taşıdı Ve nihayet, X kullanıcılarının açıkça dahil olduğu kaçınılmaz bir meme türü ortaya çıktı Mevcut iddialar yeterince güçlü olmasa da vakalar revize edilebilir ve yeniden doldurulabilir

    Kısacası: Eğer kurumsal yapay zeka güvenliğinin amacı insanlığı kontrolden çıkmış yapay zekadan korumaksa, o zaman bunu yapmak için etkili bir strateji olarak ilk büyük sınavından başarıyla geçmiştir Muzaffer Sam, tahtayı devirdikten sonra OpenAI türüne geri dönüyor tonlarca kişi gibi popüler oldu Satya Nadelle ile ilgili memler Saray entrikaları ve toplantı odası draması Sam Altman’ın görevden alınması OpenAI yönetim kurulu tarafından (ve onun muzaffer iade bugün erken saatlerde) şüphesiz Silikon Vadisi’nin başına gelen en patlayıcı olaylardan biri olarak tarihe geçecek en çok yapılan “güvenlik” odaklı bir model takip etmek – teknoloji endüstrisinin reelpolitik entrikalarıyla pek örtüşmüyor gibi görünüyor Bununla birlikte, bunun OpenAI’de mevcut olan versiyonu, muhtemelen sahip olan şirketlerden biri Cruise’un skandalları şirketin tüm araçlarını geri çekmesine neden oldu Kaliforniya’da yolların dışında Ekim ayında ve en sonunda ülke çapındaki operasyonlar durdurulacak Rust Cohl’un komplo meme’leri Teknoloji dünyası tam olarak neye tanık olduğunu anlamak için çabalarken, dolaşımdaydı “etkili hızlandırıcılar” (kısaltılmış “e/acc”) ek hükümet düzenlemeleri, “teknoloji etiği” ve “Yapay Zeka güvenliği” gibi konuların gerçek teknolojik gelişmenin ve katlanarak artan kârın önündeki hantal engeller olduğuna inanıyor

  • MC Hammer görünüşe göre büyük bir OpenAI hayranı


    Gizmodo’nun yapay zekada olup bitenler hakkında derinlemesine bir inceleme yaptığımız haftalık özeti olan AI Bu Hafta’ya hoş geldiniz Daha açık bir ifadeyle, bizi kontrolden çıkmış yapay zekaya karşı koruması gereken kişiler (yani yönetim kurulu üyeleri), yani bu güçlü teknolojinin sorumlu yönetimiyle görevlendirilenler, ne yaptıklarını bilmiyor gibi görünüyorlar Eğer kralın yanına gelirsen, kaçırmasan iyi olur Altman şirkete geri döndü (Altman ile dayanışma amacıyla istifa eden eski şirket başkanı Greg Brockman gibi) ve Microsoft’un üst düzey yöneticisi Satya Nadella, bunu söyledi kendisi “OpenAI yönetim kurulundaki değişikliklerden cesaret aldı” ve bunun “daha istikrarlı, bilgili ve etkili yönetime giden yolda ilk önemli adım” olduğunu söyledi Gerçekten de şirketin tarihindeki bu endişe verici bölüm, OpenAI’nin iki karşıt kişiliğinin alevlenmesi gibi görünüyor; biri araştırma ve sorumlu teknolojik gelişime, diğeri ise tonlarca para kazanmaya dayalı

    Aslında yönetim kurulunun tüzüğü, hissedarlarına değil “insanlığa” bağlılığını borçludur Bununla birlikte, bu sürükleyici olayın uzun vadeli etkilerinin, ilk bakışta görülenden çok daha az keyifli olacağı kesin