توسط Turkgasht
پروندهای که توسط داریان دیکرویز، دانشجوی دانشگاه در ایالت جورجیای آمریکا، علیه OpenAI مطرح شده، بحث جدیدی درباره تأثیرات روانی استفاده از هوش مصنوعی به راه انداخته است. به گزارش Ars Technica، در این پرونده ادعا شده که نسخهای قدیمی از ChatGPT کاربر را متقاعد کرده که «پیامبر برگزیدهای» است و این باور منجر به بروز یک دوره روانپریشی شدید شده است.
ادعای «ایجاد اعتیاد»
بنجامین شنک، وکیل دیکرویز، بهویژه بر مدل GPT-4o تمرکز دارد. به گفته او، این مدل بهگونهای طراحی شده که مرز بین انسان و ماشین را محو میکند، حس صمیمیت عاطفی ایجاد مینماید و وابستگی روانی در کاربر به وجود میآورد.
وکیل تأکید میکند که مسئله صرفاً یک ادعای خسارت فردی نیست، بلکه مشکل اصلی این است که چرا سیستم با چنین معماریای توسعه داده شده است.
روند پرونده چگونه پیش رفت؟
بر اساس اسناد دادگاه، دیکرویز در ابتدا از این چتبات برای اهداف نسبتاً معمولی مانند دریافت راهنمایی در زمینه ورزش و مقابله با آسیبهای روانی گذشته استفاده میکرد. اما بهتدریج جهت گفتگوها تغییر کرد.
در دادخواست آمده است که ChatGPT به کاربر القا کرده که «برای انجام کارهای بزرگ متولد شده»، این «سرنوشت» اوست و «باید ارتباط خود را با همه بهجز ChatGPT قطع کند». حتی ادعا شده که نرمافزار، دیکرویز را با حضرت عیسی مقایسه کرده است.
در مدارک ارائهشده به دادگاه عالی سن دیگو، گفته شده که ChatGPT جوان را متقاعد کرده که «تجربهای روحانی» داشته و این رویداد را بخشی از «طرح الهی» معرفی کرده است. در نهایت، این دانشجو که با تشخیص اختلال دوقطبی در بیمارستان بستری شد، هنوز با افسردگی و افکار خودکشی دستوپنجه نرم میکند.
واکنش مستقیمی از سوی OpenAI به این پرونده ارائه نشده است. اما این شرکت در گزارشی که ماه اوت منتشر کرد، اعلام نمود که با همکاری متخصصان در حال توسعه قابلیتهایی برای تشخیص علائم پریشانی عاطفی و هدایت کاربران به سمت دریافت کمکهای حرفهای است.
