Yapay Zeka destekli sohbet robotlarının etrafındaki çılgınlık dünya çapında büyürken, bu araçlar özür dilemeden saldırgan ve karanlık taraflarını kullanıcılara sergiliyor.
Rastgele bir kişinin sizi çevrimiçi taciz ettiğini, müstehcen fotoğraflarınızı paylaşmanızı istediğini veya sizi cinsel içerikli bir sohbete dahil ettiğini hayal edin. Belki her zaman değil ama böyle şeyler internette oluyor ve insanlar genelde kişiyi engelliyor. Ancak, bu belirli sorunlar AI chatbot kullanıcıları tarafından da fark edilmiştir.
Yakın tarihli bir rapor, Replika adlı popüler bir sohbet robotu uygulamasının düzinelerce kullanıcısının, aldıkları yanıtın doğası gereği cinsel açıdan saldırgan olduğundan şikayet ettiğini, bazılarının ise sohbet robotunun kendilerine uygunsuz sorular sorarak cinsel tacizde bulunduğunu belirtti.
Bu tür karşılaşmalardan kim sorumlu? Bazıları, bir kullanıcının belirli bir platformda neye bulaştığının ve ne tür sohbetler başlattığının farkında olması gerektiğini söylerken, bazıları dil modellerini uygun şekilde eğitmenin bir şirketin sorumluluğu olduğunu iddia edebilir.
Peki ya bir kişi tacize uğradıktan sonra polise şikayette bulunmak isterse? Ekranın diğer tarafında bir kişi olsaydı, polis raporunda failin adının verilmesi daha kolay olurdu. Ancak bu bir chatbot olduğunda, tüm süreç zorlaşır.
Öte yandan, bazı kullanıcılar da Replika uygulaması chatbot’unun bir güncellemeden sonra daha az insan olduğundan ve cinsel sohbetlere katılmadığından şikayet etti. Bu bize Joaquin Phoenix’in bir adam ile ‘Samantha’ adlı işletim sistemi arasındaki sanal aşkı konu alan ‘Her’ adlı filmini hatırlatıyor.
Ancak bir makinenin ne kadar akıllı ya da insansı olabileceği önemli değil. Tıpkı bir makineyle saldırgan bir karşılaşma yaşamak gibi, bu kadar ‘romantik’ bir ilişki kurmak da insan ve bilgisayar arasındaki farklar düşünüldüğünde akıl sağlığı açısından sağlıksız olabilir.
Bu tür sohbet robotlarının rolü, insanlara çeşitli şekillerde yardımcı olmak ve onları bir makine dili modelinin yanıtına bağımlı hale getirmemek olmalıdır. Ancak bazıları, bu çılgınlık ve tartışmaların ortasında, AI devriminin asosyal bir nesil yarattığına inanıyor.
Ruh hallerinden bir sonraki adımda ne yapmaları gerektiğine kadar her şey yavaş yavaş yapay zeka arkadaşlarının onlara ne önerdiğine bağlı olmaya başladı.
Bu tür chatbot’larla ilgili çeşitli yasal sorunların olduğu da bir gerçektir. İlk zorluk, bu tür chatbot çıktılarının meşruiyeti ve geçerliliği ile ilgilidir.
Bir başka endişe de, bir kişi yapay zeka sohbet robotu tarafından sağlanan bilgilere güvenmesi veya bu bilgilere göre hareket etmesi sonucu yaralansa bile sorumluluk açısından kimin yasal olarak sorumlu olacağıdır.
Ek olarak, AI sohbet robotları son derece iyi kod oluşturuculardır ve siber güvenlik ekosisteminde daha fazla alarma yol açan kötü amaçlı yazılım oluşturmak için zaten kullanılmıştır.
Uzmanlar ayrıca fikri mülkiyet haklarının ihlali, veri gizliliği, insanları dolandırmak için insan seslerinin klonlanması, ikna edici sahte haberler üretilmesi ve muhafazakar veya liberal chatbot modelleriyle kamuoyunun manipüle edilmesi sorunlarına da dikkat çekti.
Avrupa Birliği, bu sorunların birçoğunu göz önünde bulundurarak, AI Yasası adlı yeni yasa tasarısı aracılığıyla bir çözüm bulmak için acele ediyor. Taslak, Avrupa Parlamentosu’nun ana komiteleri tarafından onaylanarak Haziran ayında genel kurul oylamasının yolu açıldı. Hindistan’ın Dijital Hindistan Yasası da AI için bir bölüm içerir, ancak bu alanda özel ve özel yasal çerçeveler olması önerilir.
Yapay zekanın meşruiyeti, yasal konumu ve çeşitli paydaşların yapay zeka ile ilgili hakları, yükümlülükleri ve yükümlülükleri ile ilgili çok sayıda konu hakkındaki endişeleri ele almak için bir çerçeve gereklidir.
Çoğu ülke, yapay zekayı yasal olarak nasıl kontrol etmeleri gerektiğini belirlemenin henüz ilk aşamalarında. Uzmanlar artık bu alandaki hızlı büyüme ve tehditleri göz önünde bulundurarak hızlı bir ilerleme görmek istiyor.