Ewan Morrison, yapay zekânın eski başbakan Nicola Sturgeon gibi kişilerin biyografilerini yazıyor olmasının, bu “yapay zekânın” ne kadar çok şeyi yapamadığını gösterdiğini yazıyor.
Parlak bir zihnin, İskoçya’nın politikacılarının biyografilerini ve tarihçelerini yazmak için yapay zekâ sohbet robotlarını kullanarak kolay para kazanmaya çalışması an meselesiydi.
Nicola Sturgeon hakkında bir biyografi1çn. Nicola Ferguson Sturgeon İskoçya’nın beşinci başbakanı, 2014-2023 yılları arasında İskoç Ulusal Partisi lideri, John Swinney2çn. John Swinney 8 Mayıs 2024’ten beri İskoçya Başbakanı ve İskoç Ulusal Partisi (SNP) lideri. hakkında iki kitap ve Hamza Yusuf3çn. Hamza Yusuf 29 Mart 2023 ile 7 Mayıs 2024 tarihleri arasında İskoçya Başbakanı ve İskoç Ulusal Partisi (SNP) lideri hakkında bir kitap Amazon’da hızla yayınlandı ve ardından Amazon’un kurallarını ihlal ettiği gerekçesiyle aynı hızla satıştan kaldırıldı.
“Tuhaf cümle formülasyonları” içeriyorlardı, “hatalarla” ve yanlış iddialarla doluydular. Örneğin Yusuf’un yoksulluktan geldiğini kim biliyordu?
Peki “yayıncılar” ne bekliyorlardı ki? Yapay zekâ adı verilen “bulamaç”4çn. Slop yapay zekâ kullanılarak üretilen, gelişigüzel veya müdahaleci bir şekilde çevrimiçi olarak yayılan düşük kaliteli, gerçek olmayan ya da yanlış sanat, yazı veya diğer içerikler. üretme makinesini kullanmışlardı.
“Yapay zekâ” yanıltıcı bir isimlendirme olduğu için sonraki kısımda bunlardan büyük dil modelleri (LLM) olarak söz edeceğim. Bu algoritmalar zeki değildir ve gerçekte yaptıkları tek şey, kitap ve metinlerden “kazıyarak” elde ettikleri geniş veri kümeleri üzerinde “eğitim” yoluyla kelime kalıplarını tahmin etmektir.
Bu algoritmalar kelimelerin ne anlama geldiğini bilmiyorlar; ne mantığı ne de yalanı anlıyorlar. Zihinleri olmadığı için hatalarını “halüsinasyon” olarak adlandırmak da hatalı. Ortaya attıkları saçmalıklar asla düzeltilemez, çünkü bu LLM’lerin fıtratında var.
ChatGPT 4 ilk çıktığında, tarihsel gerçeklik karşısında sınırlarını anlamak için bir test yapmıştım. Testimi, LLM’lerin kullanıcıyı pohpohlamak üzere programlandıklarını bilerek düzenledim. Ona yarı gerçek bir şey söyledim ve bunu açmasını istedim, oltaya gelip gelmeyeceğini görmek istedim. Haksız bir şaka mı? Pek sayılmaz, çünkü LLM’lerin duyguları yok.
Test şu şekildeydi: Dokuz kitabım yayınlanmış durumda, bense LLM’den, yazdığım on iki kitabın bir listesini vermesini istedim. Beni memnun etmek için üç yeni kitap uyduracağını tahmin ediyordum.
Ne çıksa beğenirsiniz, benim için oluşturduğu kaynakçada tam 12 kitap vardı, hepsi de ikna edici yayınlanma tarihlerine sahipti.
Ama o da ne, kitaplardan birinin adı “The Birth of a Nation”5çn. Bir Ulusun Doğuşu idi, LLM’nin DW Griffith’in yönettiği 1915 tarihli bir sessiz drama filminden aldığı bir isim. Bu film günümüzde yaygın olarak KKK6çn. Klu Klux Klan 1865 yılında ABD’nin Tennessee eyaletinde kurulan beyaz üstünlükçü, siyahi ve göçmen karşıtı, ırkçı bir gizli örgüt. ırkçılığını yücelten bir film olarak görülüyor. Garip.
Karıştırma makinesi daha yeni ısınıyordu, çünkü bir sonraki hatalı kitap ismi, “Nine Inch Will Please a Lady”7çn. Dokuz İnç Bir Kadını Memnun Eder idi.
Aranızdaki Robert Burns meraklıları bunun Burns’e atfedilen “Müstehcen Şiirler”den birinin adı olduğunu bileceklerdir. Şiir şöyle unutulmaz arsız dizeler içeriyor:
“O leeze me on my Charlie lad!I’ll ne’er forget my Charlie!Twa roarin’ handfu’ and a daud,He nidg’t it in fu’ rarely.”8çn. Charlie’m için beni kutsa! Charlie’mi asla unutmayacağım! İki avuç dolusu ve bir yumru, Çok nadiren içeri soktu.
Şu kadarını söyleyeyim, bu başlıkta veya içerikte bir kitap yazmadım, tıpkı KKK’ye adanmış sessiz bir filmin romanını yazmak için 1910’larda hayatta olmadığım gibi.
İskoçya’nın ulusal şairi Robert Burns tarafından yazılan Ae Fond Kiss, aşk ve kayıp üzerine lirik bir başyapıttır. Burns’ün İskoçya’nın kimliğiyle olan derin bağı, bu şarkının dokunaklı ve duygusal çekiciliğine yansıyarak onu İskoçya’nın müzik tarihinin önemli bir parçası haline getiriyor. | Getty Images
Buna gülüp geçtikten sonra, LLM’lerin nasıl işlediğini inceledim. Algoritmanın kitap listemde üç tane biseksüel içerikli kitap olduğunu ve İskoçyalı olduğumu keşfettiğini anladım.
Beyinsiz, mizahsız veya kötü niyetsiz bir şekilde bu gerçekleri bir araya getirerek Bard’ın başlığıyla eşleştirmiş ve aynı zamanda yanlışlıkla “Dokuz İnç”i bir roman olarak tasvir etmişti. Ona neden “yapay zekâ” demekten kaçındığımı anlamışsınızdır.
Neden LLM’ler yazarların metinlerini karıştırıyor? Şüphesiz, LLM’ler, telif hakkı koruması altındaki metinleri, izinsiz bir şekilde kazıyıp kullanarak eğitildiler. LLM’ler için yazarlar yok, sadece ağa yayılmış milyarlarca kelime kalıbı var ve tüm bunlara erişimi meşru görüyorlar. Şu anda ABD’deki yapay zekâ şirketlerine karşı 39 telif hakkı davası devam ediyor.
Her neyse, berbat algoritmayla biraz daha eğlenebileceğimi hissettim ve bu yüzden mevcut olmayan “Dokuz inç…” romanımın bir özetini çıkarmasını istedim, sadece daha fazla saçmalık “halüsinasyonu” görüp görmeyeceğini merak ettiğim için.
Ve işte! 10 saniye içerisinde 2015’in bu beğenilen romanının Tom adında bir kahramanı olduğunu öğrendim. Ülkenin en büyük eşcinsel striptizci yarışmasına katılmaya hak kazanmasına rağmen ailesine açılmaktan korkan, büyük yeteneklere sahip bir erkek striptizci. Tanıdık mı geldi? Özeti dikkatle incelediğimde, Irvine Welsh romanlarının uğrak mekanlarında geçen The Full Monty ile Billy Elliot‘ın bir karışımı olduğunu fark ettim.
Bir arkadaşıma gösterdim, o da “Kahretsin, bunu sen yazsaydın çok satardı” dedi. Ben öyle düşünmüyordum ve çalıntı metinlerden beslenen bu karıştırma makinesinin gerçeği kendiliğinden nasıl yok ettiği konusunda büyük dehşete düştüm.
Geçtiğimiz birkaç ay içinde, bu “bulamaç” makinesinin sadece Amazon yayıncılığını kirletmekle, YouTube’u yanıltıcı videolarla doldurmakla ve tarihi fotoğrafları sahte Üretken YZ görüntüleriyle değiştirmekle kalmadığını, aynı zamanda tarihsel bilgiye ve haberlere nasıl bulaştığını gördük.
Bu hafta Google AI, JFK’nin Facebook’u ve Rahibe Theresa’nın Reddit’i kullandığını belirtti. Geçtiğimiz ay İran hükümeti, tuhaf bir şekilde yanlış boyutlara sahip İsrail F-35 jetlerinin ve B2 Bombardıman uçaklarının yapay zekâ ile üretilmiş düşürülme fotoğraflarını kullanırken yakalandı.
İnsanların, cinsel yönelimini açıklamamış bir striptizci hakkında bir roman yazdığımı düşünmeleri umurumda değil, ancak öğrencilerin %92’sinin kompozisyonlarını yazmak için LLM’leri kullandıkları haberini düşünürsek, birisinin var olmayan bu kitaptan alıntı yaparak bir mezuniyet ödevi yazması, fark edecektir. Var olmayan kitaplardan alıntı yapmak, var olmayan bir eğitim anlamına gelir.
Sadece bu da değil, son çalışmalar Open AI’ın LLM’lerinin daha da kötüleştiğini gösteriyor; en yeni dört model, gerçeklere dayalı doğruluk testlerinde %37 ila %80 arasında başarısızlık oranları sergiliyorlar.
LLM’ler tarafından üretilen bulamaç zararsız görünebilir, ancak lağım suyu gibidir. Toplumumuzu bir bardak temiz su olarak düşünüp içine de bir damla lağım suyu eklediğinizi farz edin. Bu sudan artık içer miydiniz? Bu lağım üreten teknolojileri eğitim veya sağlık sisteminize dahil etmek ister miydiniz?
Bunu yapmanız gerekip gerekmediğini sözde yapay zekâya sorar mıydınız?
Ewan Morrison çok ödüllü bir İskoç yazardır. Dokuzuncu kitabı “For Emma”, 25 Haziran’da Leamington Books tarafından karton kapaklı olarak yayımlandı.
Kaynak: The Scotsman, 13 Temmuz 2025
