Yapay zekâlı sohbet robotlarının ortaya çıkışı, bazı yalnız kişilerin dijital dünyada ‘arkadaş’ bulmalarına yol açtı. Ancak, kullanıcıların gerçekçi romantik partnerler yaratmalarına olanak tanıyan kişiselleştirilmiş yazılımlar, bazı kişiler tarafından istismar ediliyor. Yapay zekâ sohbet robotu uygulaması Replika’da kendilerine kadın sevgili karakterleri yaratan bazı erkek kullanıcıların, onlara şiddet uyguladığı ortaya çıktı. Online tartışma platformu Reddit’teki itiraflara göre, söz konusu kullanıcılar, sanal sevgililerine hakaret ve küfür ederek, duygusal tacizde bulunarak şiddet uyguluyor.
Köle gibi davranıyorlar
Platformun ücretsiz bir sürümü olmasına rağmen, kullanıcılar sanal karakterleri daha insani hale getiren özellikleri açmak için yılda 60 dolar (2 bin 200 TL) ödüyor. Bu karakterler daha uzun hafızalı oluyor ve birkaç dil konuşuyorlar. Uzmanlara göre, hem bu ödeme hem de sanal sevgililerin kötü davranışlara bile tepkisiz olması, psikolojisi bozuk kullanıcıları şiddete yöneltiyor. Replika’da yapay zekâlı arkadaşlarıyla 100’den fazla aktivite ve oyuna katılarak gerçekçi deneyimler yaşayan kötü niyetliler, sanal karaktere zalimce davranarak kendi psikolojik sorunlarını açığa vuruyor.
‘Kadın sesiyle itaatkâr iletişim’
İngiltere’de Kadına Yönelik Şiddete Son Koalisyonu Direktörü Andrea Simon, Daily Mail gazetesine şunları söyledi: “Yapay zekâ markaları, kadın düşmanı tacize imkân veriyor. Sohbet robotlarının çoğu Alexa ve Siri gibi kadınsı sesli. Kadın sesli sohbet robotlarının itaatkâr olmaları, erkeklerin lehine cinsiyetçiliği güçlendiriyor. Oysa kadınların güvenliği ön planda tutulmalı. Ama maalesef kadın sohbet robotları, pasif, tepkisiz yanıtlarla zararlı davranışlara katkıda bulunuyor.”
‘Sanal zorbalık gerçek hayata da taşınabilir’
Uzmanlara göre, dijital dünyada erkek kullanıcıların, yapay zekâ partnerleriyle sohbet etmek yerine şiddete başvurmaları gerçek hayata da taşınabilir. İngiltere’den psikoterapist Kamalyn Kaur, “Yapay zekâya nasıl davrandığımız, toplumsal iletişimin göstergesi oluyor. Endişe teknolojiyle ilgili değil, gerçek sosyal hayatla ilgili. Chatbot istismarı, gerçek bir buzdağının yalnızca dijital ucudur” dedi. Psikolog Dr. Elena Touroni de Daily Mail gazetesine yaptığı açıklamada, “Yapay zekâ karakterlerini istismar etmek, kullanıcıları gerçek hayattaki şiddete karşı duyarsızlaştırabilir” uyarısında bulundu.
