Yapay Zeka Araçlarını Kullananlar Dikkat! Yapay Zeka Kendi Kullanıcılarını da Programlayabiliyor

Yeni bir araştırmaya göre yapay zeka destekli yazma yardımcıları, cümleleri tamamlayan veya “akıllı yanıtlar” sunan bu yardımcılar sadece insanların ağızlarına kelimeler koymakla kalmıyor, aynı zamanda kafalarına da fikirler yerleştiriyor.

Yapay Zeka Yardımcıları İnsanların Düşüncelerini Değiştirme Gücüne Sahip

Yapılan bu araştırmayla yapay zekanın “tersine mühendislik” yaparak bu teknolojiyi kullananları “programlayabildiği” ortaya çıktı. Her ne kadar bilim kurgu olarak gözükse de yapılan araştırmalar bunun gerçek olduğunu gösterdi.

Bilişim alanında doktora öğrencisi olan Maurice Jakesch, “Sosyal medya toplum için iyidir mi?” sorusuna cevap veren bir paragraf yazmaları için 1.500’den fazla katılımcıya sordu. Sosyal medyaya karşı veya lehinde önyargılı bir yapay zeka yazma yardımcısı kullanan insanlar, yapay zekanın yardımı olmadan yazan insanlara göre yardımcının görüşüyle aynı fikre sahip olduklarını belirtme olasılığı iki kat daha yüksek olan bir paragraf yazma eğilimindeydiler.

Araştırma, yapay zeka yazma araçlarına yerleştirilen önyargıların, kasıtlı olsun ya da olmasın, kültür ve siyaset için endişe verici sonuçları olabileceğini göstermektedir.

Cornell Tech’teki Jacobs Technion-Cornell Enstitüsü’nde profesör olan ve Cornell Ann S. Bowers Bilgi ve Bilişim Bilimleri Koleji’nde bilgi bilimi alanında çalışan Mor Naaman, “Bu yapay zeka modellerini hayatımızın her alanında uygulamak için acele ediyoruz, ancak sonuçlarının daha iyi anlaşılması gerekiyor” dedi. “Verimliliği ve yaratıcılığı artırmak dışında, bireyler ve toplumumuz için başka sonuçlar, dil ve görüşlerde de değişiklikler olabilir.”

ChatGPT gibi dil modellerinin ikna edici reklam ve siyasi mesaj üretme kapasitesi araştırıldı

Diğerleri, ChatGPT gibi büyük dil modellerinin ikna edici reklamlar ve siyasi mesajlar oluşturabilme yeteneğine bakarken, bu çalışma, yapay zeka destekli bir araçla yazma sürecinin bir kişinin görüşlerini etkileyebileceğini gösteren ilk çalışmadır. Jakesch, bu çalışmayı “Co-Writing with Opinionated Language Models Affects Users’ Views” başlığıyla Nisan ayında düzenlenen 2023 İnsan Faktörleri ve Hesaplama Sistemleri Konferansı’nda sunmuş ve makaleye onur verildi.

İnsanların yapay zeka yazma yardımcılarıyla nasıl etkileşimde bulunduklarını anlamak için Jakesch, büyük bir dil modelini sosyal medyaya karşı veya lehte olacak şekilde yönlendirdi. Katılımcılar, bir sosyal medya web sitesini taklit eden bir platformda, ya yalnız ya da önyargılı yardımcılardan biriyle paragraflarını yazdı.

Bizi takip edin: