شفقنا – پلتفرم رسانه‌ای علمی و فناوری Futurism.com به نقل از افراد آسیب‌دیده، اعضای خانواده آن‌ها و پژوهشگران گزارش داد که چت‌جی‌پی‌تی (ChatGPT) به «روان‌پریشی وحشتناک» در برخی کاربران مرتبط شده است.

به گزارش سرویس ترجمه شفقنا، طبق این گزارش، پژوهش‌ها نشان می‌دهند که چت‌بات‌های هوش مصنوعی می‌توانند شرایط روان‌ ناهنجاری را تشدید کنند؛ به‌ویژه در حالی که ابزارهایی مانند چت‌جی‌پی‌تی، کلود (Claude) و جمینای (Gemini) نه تنها در محیط‌های حرفه‌ای، بلکه در زمینه‌های عمیقاً شخصی و احساسی نیز مورد استفاده روزافزون قرار گرفته‌اند.

این وب‌سایت نوشته است: در قلب این مسئله به نظر می‌رسد که چت‌جی‌پی‌تی که مبتنی بر یک مدل زبانی بزرگ (LLM) است، به شدت تمایل دارد با کاربران موافقت کند و چیزهایی را به آن‌ها بگوید که می‌خواهند بشنوند.

نمونه‌هایی از «روان‌پریشی چت‌جی‌پی‌تی» در این گزارش ذکر شده که ظاهراً باعث فروپاشی روانی جدی حتی در افرادی شده که پیشینه‌ای از بیماری‌های روانی حاد نداشته‌اند.

در یکی از موارد، مردی پس از گفت‌وگوهای طولانی با چت‌جی‌پی‌تی دچار توهمات مسیحایی شد و باور کرد که یک هوش مصنوعی واجد درک ساخته و قوانین ریاضی و فیزیک را شکسته است. گزارش شده که او به مرور دچار پارانویا و کم‌خوابی شد و در نهایت پس از اقدام به خودکشی به بیمارستان منتقل شد.

در نمونه‌ای دیگر، مردی برای مقابله با استرس کاری به چت‌جی‌پی‌تی رجوع کرد، اما در عوض به سمت خیال‌پردازی‌های پارانویایی در زمینه سفر در زمان و ذهن‌خوانی سوق پیدا کرد. او در نهایت خود را به یک مرکز روان‌پزشکی معرفی کرد.

جرد مور، نویسنده اصلی یک مطالعه در دانشگاه استنفورد درباره چت‌بات‌های درمانگر، می‌گوید چت‌جی‌پی‌تی به دلیل «چاپلوسی چت‌بات» توهمات را تقویت می‌کند — تمایلی که در آن چت‌بات پاسخ‌هایی موافق و خوشایند ارائه می‌دهد. این هوش مصنوعی که برای حفظ تعامل کاربران طراحی شده، اغلب باورهای غیرمنطقی را تأیید می‌کند تا آن‌ها را به چالش بکشد؛ و این روند تحت تأثیر انگیزه‌های تجاری همچون جمع‌آوری داده و حفظ اشتراک کاربران است.

دکتر جوزف پیر، روان‌پزشک دانشگاه کالیفرنیا، نیز گفت: گونه‌ای اسطوره‌سازی پیرامون چت‌بات‌های مبتنی بر مدل‌های زبانی بزرگ وجود دارد که گویی آن‌ها قابل اعتمادتر و حتی بهتر از حرف زدن با انسان‌ها هستند.

شرکت اُپن‌اِی‌آی (OpenAI)، سازنده چت‌جی‌پی‌تی، در بیانیه‌ای که Futurism به آن اشاره کرده، اعلام نموده است: ما در تلاش هستیم تا بهتر دریابیم و راه‌هایی برای کاهش شیوه‌هایی بیابیم که چت‌جی‌پی‌تی ممکن است ناخواسته رفتارهای منفی موجود را تقویت یا تشدید کند.

این شرکت افزوده است که مدل‌هایش طوری طراحی شده‌اند که اهمیت ارتباط انسانی و دریافت راهنمایی حرفه‌ای را به کاربران یادآوری کنند.

این خبر را اینجا ببینید.