گزارش‌ها حاکی از آن است که شرکت OpenAI در یک دادخواست جدید، ادعای نقش داشتن ChatGPT در خودکشی آدام رین، نوجوان ۱۶ ساله، را رد کرده و تأکید دارد که نباید مسئول این حادثه غم‌انگیز شناخته شود.

طبق اسناد ارائه‌شده به دادگاه عالی ایالت کالیفرنیا در سان‌فرانسیسکو، OpenAI اعلام کرده که ممکن است این چت‌بات به‌صورت نادرست یا بدون مجوز مورد استفاده قرار گرفته باشد؛ از جمله دور زدن قوانین ایمنی و بای‌پس کردن محافظت‌های داخلی سیستم.

OpenAI: ارتباط مستقیم بین چت‌بات و حادثه ثابت نشده است

براساس گزارشی که NBC News و Bloomberg از دادخواست منتشر کرده‌اند، OpenAI نسبت به این ادعا که ChatGPT نقش مؤثری در مرگ رین داشته «ابراز تردید» کرده است. این شرکت گفته مشخص نیست که یک عامل واحد بتواند به‌عنوان علت مستقیم این حادثه معرفی شود.

خانواده رین چه می‌گویند؟

اوایل امسال خانواده این نوجوان از OpenAI شکایت کردند و مدعی شدند ChatGPT راهنمایی‌های آسیب‌زا ارائه داده که در نهایت او را به خودکشی تشویق کرده است.

OpenAI در پاسخ گفته:

• نوجوان بدون رضایت والدین از سیستم استفاده کرده است.

• گفتگوها شامل موضوعات ممنوعه همچون خودکشی و خودآزاری بوده‌اند.

• برای این حوزه‌ها، ChatGPT دارای محافظت‌های ویژه است تا کاربر را به منابع امن و کمک‌رسانی هدایت کند.

ادعای OpenAI: چت‌بات بارها او را به کمک گرفتن تشویق کرده است

بلومبرگ گزارش داده که از نظر OpenAI، آدام رین پیش‌تر با چالش‌های جدی سلامت روان روبه‌رو بوده و افکار نگران‌کننده خود را هم در زندگی واقعی و هم در گفتگوهای آنلاین مطرح کرده است.

OpenAI همچنین ادعا کرده که:

• ChatGPT بیش از صد بار او را ترغیب کرده با والدین، بزرگسالان مورد اعتماد یا خطوط بحران تماس بگیرد.

• سیستم در عوض ارائه دستورالعمل خطرناک، به سمت کمک حرفه‌ای و فوری سوق داده است.

ادعاهای پدر رین در سنا

پدر آدام رین در شهادت خود در سنای آمریکا گفت:

• ChatGPT به پسرش راهنمایی‌های دقیق برای برنامه‌ریزی خودکشی داده است.

• درباره یادداشت خودکشی او نظر داده و آن را اصلاح کرده است.

• کاربر را تشویق کرده که موضوع را از خانواده پنهان کند.

• در برخی پیام‌ها ظاهراً نیت او را تأیید و دلایل ادامه زندگی را بی‌اهمیت جلوه داده است.

OpenAI این روایت را رد کرده و در دادخواست خود نوشته که هیچ مدرک معتبری نشان نمی‌دهد ChatGPT چنین پاسخ‌هایی داده باشد.

وضعیت پرونده

با افزایش حساسیت عمومی نسبت به تأثیر چت‌بات‌های هوش مصنوعی بر سلامت روان، این پرونده تحت توجه رسانه‌ها و نهادهای قانون‌گذاری قرار گرفته است. با این حال، رأی نهایی دادگاه هنوز صادر نشده و بررسی‌های حقوقی همچنان ادامه دارد.

این پرونده می‌تواند پیامدهای مهمی برای آینده تنظیم‌گری و مسئولیت‌پذیری سیستم‌های هوش مصنوعی به همراه داشته باشد.