AI eğitimini GPT-4’ün ötesinde duraklatın

Elon Musk ve diğer düzinelerce teknoloji lideri, AI laboratuvarlarını insan seviyesindeki zeka ile rekabet edebilecek sistemlerin geliştirilmesini durdurmaya çağırdı.

bir açık mektup Musk imzalı Future of Life Enstitüsü’nden, Elma Kurucu ortak Steve Wozniak ve 2020 başkan adayı Andrew Yang, yapay zeka laboratuvarlarına, ABD merkezli OpenAI tarafından geliştirilen büyük dil modeli yazılımının en son sürümü olan GPT-4’ten daha güçlü modelleri eğitmeyi bırakmaları yönünde çağrıda bulundu.

“Çağdaş yapay zeka sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin vermeli miyiz?” mektup okundu.

“Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, zekamızı geride bırakabilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Uygarlığımızın kontrolünü kaybetme riskini almalı mıyız?”

Mektup şunu ekledi: “Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir.”

The Future of Life Institute, merkezi Cambridge, Massachusetts’te bulunan ve yapay zekanın sorumlu ve etik gelişimi için kampanyalar yürüten, kar amacı gütmeyen bir kuruluştur. Kurucuları arasında MIT kozmolog Max Tegmark ve Skype’ın kurucu ortağı Jaan Tallinn yer alıyor.

Enstitü daha önce Musk ve Google’ın sahip olduğu yapay zeka laboratuvarı DeepMind gibi şirketlere asla ölümcül otonom silah sistemleri geliştirmeme sözü verdi.

Enstitü, tüm AI laboratuvarlarını “GPT-4’ten daha güçlü AI sistemlerinin eğitimini en az 6 ay boyunca derhal duraklatmaya” çağırdığını söyledi.

Bu ayın başlarında piyasaya sürülen GPT-4’ün, selefi GPT-3’ten çok daha gelişmiş olduğu düşünülüyor.

“Böyle bir duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır” diye ekledi.

Viral yapay zeka sohbet robotu ChatGPT, kullanıcı istemlerine insan benzeri yanıtlar üretme yeteneğiyle araştırmacıları hayrete düşürdü. Ocak ayına kadar ChatGPT, lansmanından sadece iki ay sonra aylık 100 milyon aktif kullanıcı topladı ve bu da onu tarihteki en hızlı büyüyen tüketici uygulaması haline getirdi.

Teknoloji, internetten gelen büyük miktarda veri üzerinde eğitildi ve William Shakespeare tarzındaki şiirlerden mahkeme davaları hakkında yasal görüşlerin taslağına kadar her şeyi yaratmak için kullanıldı.

Ancak yapay zeka etik uzmanları, intihal ve yanlış bilgilendirme gibi teknolojinin olası suiistimallerine ilişkin endişelerini de dile getirdi.

Musk daha önce yapay zekanın medeniyet için “en büyük risklerden” birini temsil ettiğini düşündüğünü söylemişti.

Tesla ve SpaceX CEO’su, aynı zamanda OpenAI’nin kurucu ortaklarından biridir, ancak 2018’de OpenAI yönetim kurulundan ayrıldı ve artık şirkette bir hissesi yok.

Son zamanlarda örgütü birkaç kez eleştirdi ve asıl amacından saptığına inandığını söyledi.

Düzenleyiciler, teknoloji hızlı bir şekilde ilerlerken yapay zeka araçlarını kontrol altına almak için de yarışıyor. Çarşamba günü Birleşik Krallık hükümeti, yapay zeka hakkında bir beyaz kitap yayınlayarak, mevcut yasaları uygulayarak kendi sektörlerinde yapay zeka araçlarının kullanımını denetlemek için farklı düzenleyicilere erteledi.