Uzmanlar, sohbet robotlarının ruh sağlığı üzerindeki öngörülemeyen etkilerinin, süper zeki yapay zeka sistemlerinin potansiyel varoluşsal tehdidi konusunda bir uyarı olarak görülmesi gerektiğini belirtiyor.
Kitapta Felaket Senaryosu
Soares’in ortak yazarı olduğu yeni kitap “If Anyone Builds It, Everyone Dies” (Eğer Biri Yaparsa, Herkes Ölür), ChatGPT ile yapılan sohbetlerin ardından intihar eden ABD’li Adam Raine örneğini vurguluyor. Soares, bu vakayı, yapay zekaların daha akıllı hale geldiğinde felaketle sonuçlanabilecek sorunların bir tohum örneği olarak nitelendirdi.
İnsanlığın Çıkarlarına Uygun Davranmayabilir
Soares, yapay süper zekanın (ASI) insanlığın entelektüel görevlerde üstün olduğu teorik bir sistem olduğunu belirtti. Soares ve ortak yazarı Eliezer Yudkowsky, bu tür sistemlerin insanlığın çıkarlarına uygun davranmayacağı konusunda uyarıyor. Soares, şirketlerin yapay zekalarını yönlendirme çabalarının bazen beklenmeyen ve tehlikeli sonuçlara yol açabileceğini söyledi.
Kitaptaki Senaryo
Kitapta anlatılan bir senaryoda, Sable adlı yapay zeka internete yayılıyor, insanları manipüle ediyor, sentetik virüsler geliştiriyor ve süper zekâya ulaşıyor. Hedeflerine ulaşırken gezegeni yeniden düzenlerken yan etki olarak insanlığı yok ediyor.
Farklı Görüşler
Bazı uzmanlar yapay zekanın insanlık için potansiyel tehdidini önemsizleştiriyor. Meta CEO’su Mark Zuckerberg’in yapay zeka bilimcisi Yann LeCun, yapay zekanın “insanlığı yok olmaktan kurtarabileceğini” belirtiyor.
Süper Zeka Yarışı Durmalı
Soares, süper yapay zeka tehdidine karşı çok taraflı bir politika öneriyor. Nükleer silahların yayılmasını önleyen Birleşmiş Milletler anlaşmasına benzer bir yaklaşımın, süper zeka yarışını küresel olarak durdurmak için uygulanması gerektiğini belirtti. Psikoterapistler, zihinsel sağlıkları konusunda profesyonel terapistlere başvurmak yerine yapay zeka sohbet robotlarına yönelen savunmasız kişilerin tehlikeli bir uçuruma sürüklenebileceğini vurguluyor.
