BBC Küresel Dezenformasyon Ekibi, yapay zekâ kullanarak sahte bilimsel videolar hazırlayan ve çocuklara “eğitim içeriği” olarak önerilen YouTube kanalları tespit etti
STEM (Fen, teknoloji, mühendislik ve matematik) içeriğiymiş gibi hazırlanan, dezenformasyon yayan 20’den fazla dilde 50’nin üstünde kanal tespit edildi. Bu kanallarda gerçek olmayan bilimsel anlatım ve yanlış bilginin yanı sıra, komplo teorileri, insan kaynaklı iklim değişikliğinin inkarı ve uzaylıların varlığı gibi içerikler yer alıyor.
Bu analiz, YouTube’un çocuklara, gerçek eğitim içeriğinin yanı sıra sahte bilim videolarını da önerdiğini gösteriyor.
Videolar, izleyicilerin dikkatini çekmek için sansasyonel yorumlar, akılda kalıcı başlıklar ve dramatik görsellerle dolu iddialara odaklanıyordu. İzleyiciler ne kadar çok izlerse, kanallar ekrandaki reklamlardan o kadar fazla gelir elde ediyordu.
Bunun YouTube’a da faydası var. Videoların reklam gelirinin yaklaşık yüzde 45’ini platform alıyor.
Videolar “eğitici içerik” olarak etiketleniyordu. Bu da videoların çocuklara önerilme olasılığını artırıyor.
“Ben bir bilim insanı olarak bunu kişisel olarak algıladım” diyen Hill, “Bu kanallar, minimum çabayla izlenme sayısını en üst düzeye çıkarmak için en doğru şeyi bulmuş gibi görünüyor”.
Nasıl doğrulanıyor?
YouTube, gerçek bilimsel içeriklerin yanı sıra bu sahte bilim videolarını çocuklara öneriyor.
BBC, YouTube’da Arapça, Rusça, İspanyolca gibi dillerde bu tür içerik üreten düzinelerce kanal buldu. Bu kanalların çoğunun bir milyondan fazla abonesi var. Videolar genellikle milyonlarca kez görüntüleniyor.
Kanal sahipleri, birçoğu günde birden fazla video olmak üzere, içerikleri hızlı bir şekilde yayımlıyor. BBC ekibi, bu kadar hızlı içerik üretmek için yapay zekâ programları kullandıklarından şüpheleniyordu. Bu işte kullanılan, Chat GPT ve MidJourney gibi programlar, internette arama yapmak yerine, istendiğinde yeni içerik oluşturabiliyor.
Ekip bu şüphesini doğrulamak için her kanaldan videoları inceledi. Görüntülerin, anlatımın ve senaryonun yapay zekâ kullanılarak yapılıp yapılmadığını anlamak için yapay zekâ tespit araçlarını kullandı ve uzmanlarla analiz etti.
Analiz sonucunda, çoğu videoda, metin ve görseller oluşturmak, gerçek bilim videolarından içerikleri almak ve değiştirmek için yapay zekâ kullanıldığı ortaya çıktı.
Sonuç: Gerçek gibi görünen ancak çoğunlukla doğru olmayan içerik.
Çocuklara nasıl erişiyor?
Kanal üreticileri, hemen hemen her gün birden fazla içerik yayımlıyor.
Ekip, önerilen içeriklerden bazılarını, izledikleri şeye inanıp inanmayacaklarını görmek için İngiltere ve Tayland’dan, 10-12 yaşlarındaki çocuklara gösterdi. Bir video, UFO ve uzaylı komplolarına odaklanıyordu. Diğeri Gize Piramitlerinin elektrik ürettiğini iddia ediyordu.
İzleyen çocuklar gördüklerine inandı. Bir kız izlediği şeyden keyif aldığını söyledi. “Başlangıçta uzaylıların var olduğundan emin değildim ama şimdi var olduklarını düşünüyorum.”
Başka bir çocuk elektrik üreten piramitlerden bahsetti: “Bu kadar uzun zaman önce insanların modern teknolojiyi kullanarak elektrik üretebileceklerini bilmiyordum.”
Ancak bazıları videolarda yapay zekâ kullanıldığını fark edebildi. Bir çocuk, “İnsan sesi bile kullanmamaları komikti, bunun insan olmadığını düşündüm” dedi.
Onlara bu videoların yapay zekâ tarafından oluşturulduğunu ve yanlış bilgiler içerdiğini açıkladığında çok şaşırdılar.
Biri, “Kafam gerçekten karıştı. Bunun gerçek olduğunu düşünmüştüm” dedi.
Başka bir çocuk ise, “Sahte olduğunu söylemeseydiniz muhtemelen inanırdım” sözlerini ekledi.
Çocuklar genelde yanlış bilgiye inanıyor
Eğitimciler, çocukların meraklı yapısından faydalanmanın, çocukların neyin doğru olduğu konusunda kafalarını karıştırabileceğini söylüyor.
Eğitimciler, çocukların yeni ve ilgi çekici fikirlere olan doğal merakından faydalanmanın, neyin doğru olduğu konusunda kafalarını karıştırabileceğini söylüyor.
Oxford İnternet Enstitüsü Direktörü Prof. Vicki Nash, “Bu videolar komplo niteliğinde olduğu için başarılı” diyor ve ekliyor: “Hepimiz bize resmi olarak söylenenlerin tersi olan şeylerden etkileniyoruz ve çocuklar bu duruma yetişkinlerden daha elverişli.”
İngiltere’de ilkokul öğretmeni olan Claire Seeley, “Çocuklar genellikle gördükleri şeyi gerçek olarak kabul ederler. Belki biraz daha büyüdüklerinde bunu sorgulamaya başlarlar.”
Prof. Nash, “YouTube ve Google’ın sahte bilim haberleriyle sunulan reklamlardan para kazanması fikri bana etik dışı geliyor” diyor.
BBC ekibi yapay zekâyla içerik üreten bazı şirketlerle iletişim kurdu. Biri, “eğlence amaçlı” içerik ürettiklerini söyledi. Çocukları hedef aldıkları iddiasını reddetti ve çoğu içerik için yapay zekâ kullanmadıklarını söyledi.
YouTube, 13 yaş altı çocuklar için YouTube Kids platformunun kullanılmasını önerdiklerini söyledi. Platformlarından yanlış bilgi veren içeriklerin kaldırıldığını ve ailelere “güvenilir ve yüksek kaliteli deneyim” sağladıklarını ekledi. Bu videolardan elde edebilecekleri reklam gelirleriyle ilgili sorulara ise yorum yapmadı.
Yapay zekâ araçları gelişmeye devam ediyor. Böyle videolar hazırlamak kolaylaşacak. Videoların kalitesi yükseleceği için ayırt etmek zorlaşacak.
Endişeli olduğunu söyleyen Seeley, öğretmen ve ebeveynlerin tehditlere hazırlanması gerektiğini ifade etti:
“Yapay zekâyla hazırlanmış içeriklerin çocukların algısı üzerinde nasıl bir etkisi olduğunu henüz net olarak bilmiyoruz”.
