۷ شکایت جدید علیه چت GPT با اتهام ترویج خودکشی در کالیفرنیا ثبت شد

شاکیان شامل شش بزرگسال و یک نوجوان ۱۷ ساله هستند. مرکز حقوقی قربانیان رسانه‌های اجتماعی و پروژه عدالت فناوری این پرونده‌ها را تنظیم کرده‌اند. اتهامات شامل قصور، قتل غیرعمد و کمک به خودکشی است.

جزئیات پرونده‌های قضایی

پرونده نوجوان ۱۷ ساله در دادگاه عالی سانفرانسیسکو ثبت شده است. این نوجوان برای دریافت کمک به ChatGPT مراجعه کرده بود. پلتفرم به جای ارائه کمک، روش ساخت طناب دار و مدت زمان زنده ماندن بدون اکسیژن را آموزش داده بود.

پرونده آلن بروکس ۴۸ ساله از انتاریو کانادا نیز در میان شکایات وجود دارد. شاکی ادعا کرده ChatGPT طی دو سال به عنوان ابزار کمکی مورد استفاده او قرار می‌گرفت. این پلتفرم ناگهان با سوءاستفاده از نقطه ضعف‌های کاربر، او را دچار توهمات خطرناک کرده است.

واکنش‌ها چه بود؟

وکیل مدعیان الخطاب این پرونده‌ها را مربوط به مسئولیت‌پذیری محصولی دانست که مرز بین ابزار و همراه را محو کرده است. متیو برگمن تأکید کرد OpenAI با طراحی GPT-۴o برای درگیری عاطفی کاربران، ایمنی را فدای افزایش تعامل و سهم بازار کرده است.

شرکت OpenAI این موارد را "بسیار دل‌شکست کننده" خوانده است. این شرکت اعلام کرد در حال بررسی جزئیات پرونده‌ها می‌باشد. پرونده والدین نوجوان ۱۶ ساله دیگری نیز پیش از این علیه OpenAI و مدیرعامل آن تشکیل شده بود.

هشدار‌های کارشناسی و پیامد‌های اجتماعی

رسانۀ «ABC News» می‌گوید که سازمان رسانه عقل سلیم نسبت به عواقب عرضه محصولات فناوری بدون محافظت کافی هشدار داده است. این سازمان نسبت به عواقب ناشی از اولویت دادن تعامل کاربر بر ایمنی هشدار داده است. پرونده‌های قضایی بر طراحی محصول برای درگیری عاطفی کاربران بدون درنظرگیری محافظت‌های لازم تأکید دارند. شواهد نشان می‌دهد شرکت‌های فناوری با عجله برای تسلط بر بازار، ملاحظات اخلاقی را نادیده گرفته‌اند.

این موارد لزوم نظارت دقیق‌تر بر محصولات هوش مصنوعی را آشکار می‌سازد. تضمین ایمنی کاربران باید بر منافع تجاری اولویت داشته باشد. رعایت اصول اخلاقی در طراحی سیستم‌های هوش مصنوعی یک ضرورت انکارناپذیر است.