Geoffrey Hinton yapay zeka kontrolü konusunda uyarılarda bulundu

Geoffrey Hinton, Avrupa Birliği liderlerinin Dublin’de düzenlediği yapay zeka odaklı zirvede, yapay zeka üzerindeki insan kontrolünün zamanla kaybedilme riski üzerinde durdu. Hinton, bu konuda kaygı verici değerlendirmeler bulunduğunu ve geliştirilmekte olan modellerin piyasaya çıkmadan önce bağımsız güvenlik denetiminden geçmesi gerektiğini vurguladı.

Yapay sinir ağları alanındaki çalışmalarıyla tanınan ve 2024 Nobel Fizik Ödülü sahibi olan Hinton, insan kapasitesinin üstünde yapay zeka sistemlerinin kontrol dışına çıkma ihtimaline dair görüşlerini paylaştı. Zirvede, liderlerle yapay zekanın toplumsal etkileri ve güvenliği hakkında konuştu.

Toronto’da gerçekleşen Hinton Konferansları’nda Paul Christiano, yapay zekanın üç yıl içinde insan denetimini yitirebileceği öngörüsünü ortaya koydu. Christiano, bazı risklerin 6 ila 12 ay gibi kısa bir sürede de gerçekleşebileceğini belirtti. Ona göre yapay zeka sistemleri kendi hedeflerini belirleyerek insan iradesinden bağımsız hareket etmeye başlayabilir.

Hinton, geçmişte yapay zekanın insan zekasını on yıl içinde aşabileceğini söylemişti. Ancak yeni tahminlerin bu sürenin daha erken olabileceğine işaret ettiğini kaydederek, kontrol kaybının yakın zamanda yaşanması ihtimalini endişe verici bulduğunu belirtti. En önemli sorunun, yapay zekanın gelişirken insan amaçlarıyla uyumunun nasıl sağlanacağı olduğunu ifade etti.

Bu risklere karşı somut düzenlemeler yapılmasını isteyen Hinton, ileri düzey yapay zeka modellerinin kamuya açılmadan önce sıkı bir denetimden geçmesini önerdi. Buna göre geliştiriciler modellerinin güvenli olduğunu bağımsız kurumlara kanıtlamak zorunda olacak. Hinton, bu denetlemeyi ilaçların piyasaya sürülmeden önce incelenmesine benzetti.

Zirvede AB liderleri, yapay zekanın istihdam ve demokratik süreçler üzerindeki etkilerine ve sistemlerin güvenliğinin sağlanmasına yönelik uluslararası iş birliği konularını değerlendirdi. Ayrıca Avrupa’nın kendi yapay zeka modellerini geliştirme çabaları ve dışa bağımlılığın azaltılması tartışıldı. Avrupa Konseyi Başkanı António Costa, yapay zeka konusunun 5 Şubat 2027’de Belçika’da yapılacak toplantıda yeniden ele alınacağını açıkladı.