‘New York Belediyesi’nin Yanlış Bilgiler Veren Yapay Zekâ Sohbet Botu Eleştirileri

New York Belediyesi’nin Yapay Zekâ Sohbet Botu Skandalı

New York Belediyesi tarafından Ekim 2023’te şehrin resmi sitesinde kullanıma sunulan yapay zekâ destekli sohbet botu, verdiği yanıtlarla şehrin politikalarına ters düşerek eleştirilere neden oldu.

Sohbet Botunun Çelişkili Yanıtları

Sohbet botu, işverenin cinsel tacize uğradığından şikayet eden ve hamile olduğunu bildirmeyen çalışanları işten çıkarma hakkını desteklediği gibi, işletmelerin atıklarını sadece çöp poşetiyle atabileceklerini ve geri dönüşüm yapmalarına gerek olmadığını belirtti. Ayrıca, fare tarafından kemirilmiş peynirin müşterilere servis edilebileceğini ifade etti.

Uzmanların Eleştirileri

New York Üniversitesi’nde Bilgisayar Bilimleri Profesörü Julia Stoyanovich, denetlenmemiş bir yazılımın kullanılmasının sorumluluktan kaçınmak anlamına geldiğini belirterek, belediyenin niyetinin sorumlu davranmak olmadığını vurguladı. Washington Üniversitesi’nden Profesör Jevin West ise yapay zekâ destekli modellerin kamu sektörü için daha yüksek risk oluşturabileceğine dikkat çekti.

Sohbet botunun yanıtlarının yasal tavsiye niteliğinde olmadığı uyarısına rağmen, hâlâ kullanıcılarla etkileşimde bulunmaya devam etmesi eleştirilerin odağında.