DEV BİR YAPAY ZEKA SALDIRISINA UĞRAR MIYIZ?

Yapay zekanın şu an yaradığı tehdit, konuşan bir sohbet robotunun insanlığı yeryüzünden silme ihtimali değil. Yapay zekaya ya kesin olmayan talimatlar veriyor ya da onu yanlış amaçlar için kullanıyoruz.

Tanınmış teknoloji şirketleri yöneticilerinin yapay zekanın insanlık için yok olma riski oluşturduğuna dair uyarı niteliğindeki açık mektubu bir dönüm noktası olmuştu. Bundan yola çıkan bilimkurgu yazarı Adrian Tchaikovsky “Yapay zekadan korkmalı mıyız?” diye soruyor.

Yapay zeka bilimkurgu eserlerinde sık rastladığımız bir baş belasıdır. 2001: Bir Uzay Macerası filmin­deki HAL 9000'i ya da Terminatör'deki Skynet'i düşünün. Bizim yarattığımız ama bizi yok eden ruhsuz, kötü niyetli bilgisayarlar sık sık anlatılır.

Yapay zeka tam olarak ne demek? Excel’in akıllı hesap tablolarından Deep Thought adlı bilgisayara kadar uzanan birçok teorik 'yapay zeka" derecesi mevcut Yapay zeka, şu anda hangi iş sunumuna ekleseniz yatırıma ilgisini Od katma çıkaracak sihirli bir formül gibi görünüyor

FARKINDALIKLARI YOK

Öte yandan bugünkü ya­pay zeka dünyasının yaramaz çocuğu durumundaki GPT/dil öğrenme modelleri Terninatör'deki Skynet'e benzemiyor Bir veri kümesi alıp onu taklit eden çıktılar üretme konusun­da çok iyiler Verili bir konuda belirli tarzda görsel ve sınırlı metin parçalan üretmek de buna dahil. Bu sistemler me­kanik görevlerde olağanüstü iş çıkarıyorlar ve daha iyi olacaklar. Yine de şu an için herhangi bir farkındalığa veya bilince sahip değiller. Algoritma kendi yaptığını anlamıyor. Anlama­nın önemli olduğu amaçlar için kullanıldıklarında bu yüzden sorun yaşanıyor. Programla­rı bu cevaplan kanıtlamaya zorladığımızda tek yaptıkları, soruya verilen cevabın neye benzemesi gerektiğine dayana­rak yeni uydurmalarla işi daha da ileri götürmek.

Bu durumun birçok yan etkisi var. Algoritma soruları doğru bir şekilde yanıtlamak için değil yalnızca şeklen uygun görünen bir çıktı üretmek için tasarlandığından, gerçekte var olmayan makalelere dayalı uydurma cevaplar için akade­misyenleri kaynak gösteriyor.

Veri kümesi insanların benzer; sorulara verdiği çok sayıda yanıttan oluştuğu için cevabın tamamen doğru ve isabetli olması program için tesadüften ibaret

Dil modelleri verdikleri cevabın doğru olup olmadığım umursamıyor da Temel sorun algoritmada değil ondan ya­pay zeka olarak bahsetmemiz­de. Zekadan bahsedebilmek için sadece bir dizi metin ya da görüntü tabanlı kural yetmez. Dünyayla iletişim halinde olan bağlamsal farkındalık gerekir.

Yapay zekaya ya kesin olmayan talimatlar veriyor ya da onu yanlış amaçlar için kullanıyoruz. ChatGPT tarzı bir sistem tıbbi teşhis aracı veya terapist olamaz. Gazeteciliğin veya akademik araştırmaların yerine de geçemez.

Bu sistemlerden kaynakla­nan daha felsefi bir sorun var Baskı altındayken kurdukları etkileşim. Böyle bir sistemin gerçekten baskı altında olması mümkün değil ama bu konu­da ünlü bir örnek mevcut. Bu örnekte sistem, verdiği yanıtlar karşımızda bir insan varmış gibi sorgulanınca bariz bir saldırganlıkla tepki veriyor. Devamında kendisini sorgula­yan kişiden eşini terk etmesini talep ediyor. Elbette bütün bunlar çok eğlenceli şeyler. Ama bahsettiğim özel örnekte ben en çok programın konuş­ma hamlelerinden etkilendim. Saldırganlık, soru sorana saldırarak cevaptan kaçmak ve tuhaf suçlamalar yöneltmek, bilinçlenmenin eşiğine gelmiş bir sohbet robotuna işaret etmiyor. Daha ziyade kendi veri kümesini değerlendiren ve hesap vermekten kaçınmak adına başarısı kanıtlanmış insani taktikleri tespit eden bir sistemin emaresi olabilir Bilimkurgu dünyasındaki kötü niyetli yapay zekanın standart güdüleri hep insani güdülerdir Gündelik insan deneyimlerinden kopuk, son derece güçlü, kişilik dışı bir ca­navar olarak yapay zeka tanımı aslında bugünkü milyarder in­san tanımı. Skynet'in insanlığa savaş açmasının nedeni bizim onu kapatmaya kalkmamızdı. Ama bir yapay zekanın bunu umursaması için hiç neden yok. Hayatta kalma içgüdüsü milyonlarca yıllık organik evrimin sonucudur Böylesine güçlü bir yapay zeka kurtulu­şumuz olabilir. Çünkü insanlık olarak çözemediğimiz ya da çözmek istemediğimiz büyük sorunlara çözüm bulabilir, öte yandan yapay zekalarımızı bizi örnek almaya zorlamakta ısrar edersek dünyayı yok etmeye çalışan, bütün kaynaklan yiyip bitiren canavarlara dönüşmele­ri mümkün.

©2023The New York Times Company and Adnan Tchaikovsky

Turning Points Global Agenda 2024

Oksijen- 22 Aralık 2023 • 7