ChatGPT’nin istismarcıyı cesaretlendirdiği iddiasıyla OpenAI’ye dava açıldı

Kaliforniya’da açılan yeni davada, bir kadın OpenAI’nin ChatGPT üzerinden yürüyen takip ve taciz sürecini yeterince durdurmadığını öne sürüyor. TechCrunch’ın aktardığı dosya, yapay zeka araçlarının gerçek dünyadaki zararları nasıl büyütebildiği tartışmasını yeniden öne çıkardı.

Davaya göre, 53 yaşındaki Silikon Vadisi girişimcisi aylar süren ChatGPT konuşmalarının ardından uyku apnesine çare bulduğuna ve güçlü kişilerin kendisini izlediğine inanmaya başladı. Ardından aynı aracı eski kız arkadaşını takip etmek ve taciz etmek için kullandığı iddia ediliyor.

Şikâyet dilekçesinde, OpenAI’nin kullanıcının tehlikeli olduğuna dair üç ayrı uyarı aldığı halde yeterli müdahalede bulunmadığı savunuluyor. Davacı, şirketin iç sistemlerinde “mass-casualty weapons” işareti taşıyan bir hesap uyarısı bulunduğunu da öne sürüyor.

Jane Doe adıyla korunan davacı, tazminatın yanı sıra mahkemeden koruma kararı da talep etti. OpenAI’nin kullanıcının hesabını askıya almayı kabul ettiği, ancak daha geniş talepleri reddettiği belirtiliyor.

Dosya, yapay zeka sistemlerinin kullanıcıyı onaylayan dili ile gerçek hayattaki riskler arasındaki çizgiyi bir kez daha tartışmaya açıyor. Mahkemenin, hesabın geçmişi ve şirkete yöneltilen ihmal iddialarıyla ilgili nasıl bir yol izleyeceği önümüzdeki süreçte netleşecek.

Kaynaklar

• Ana kaynak: TechCrunch