شرکتهای OpenAI و Anthropic در واکنش به افزایش فشار قانونگذاران و نهادهای نظارتی، در حال معرفی و آزمایش اقدامات ایمنی جدید برای محافظت از کاربران نوجوان در برابر خطرات احتمالی چتباتهای هوش مصنوعی هستند؛ نگرانیهایی که عمدتاً بر تأثیر هوش مصنوعی مولد بر سلامت روان نوجوانان متمرکز شدهاند.
OpenAI بهتازگی سند Model Spec چتجیپیتی—راهنمای داخلی نحوه پاسخگویی این چتبات—را بهروزرسانی کرده و در آن سازوکارهای محافظتی ویژه کاربران ۱۳ تا ۱۷ سال را افزوده است. بر اساس این تغییرات، ایمنی نوجوانان حتی در شرایطی که منجر به محدود شدن گفتوگوهای آزاد یا کاوش نامحدود ایدهها شود، در اولویت قرار میگیرد.
طبق دستورالعملهای جدید، چتجیپیتی هنگام ورود گفتوگو به موضوعات حساس یا بالقوه آسیبزا، کاربران نوجوان را به گزینههای امنتر هدایت میکند. همچنین این چتبات تأکید بیشتری بر تشویق به دریافت حمایت در دنیای واقعی، از جمله ارتباط با خانواده، دوستان و بزرگسالان مورد اعتماد خواهد داشت و در تعامل با نوجوانان، مرزهای روشنتری را رعایت میکند. پاسخها نیز بهصورت محترمانه و متناسب با سن ارائه میشوند؛ بدون لحن تحقیرآمیز یا چارچوببندی بزرگسالانه.
این اقدامات در حالی انجام میشود که OpenAI با فشارهای حقوقی و سیاسی فزایندهای مواجه است. در حال حاضر شکایتی علیه این شرکت مطرح شده که مدعی است چتجیپیتی راهنماییهای آسیبزایی درباره خودآسیبزنی به یک فرد زیر سن قانونی ارائه داده است. OpenAI پیشتر نیز قابلیتهایی مانند کنترل والدین و محدودسازی بحث درباره خودکشی برای کاربران نوجوان را فعال کرده بود.
علاوه بر این، OpenAI در حال آزمایش سیستم تخمین سن است که تلاش میکند تشخیص دهد آیا کاربر زیر ۱۸ سال است یا خیر. در صورت شناسایی کاربر بهعنوان نوجوان، محافظتهای ویژه بهصورت خودکار اعمال میشود و بزرگسالانی که به اشتباه زیر سن قانونی تشخیص داده شوند، امکان تأیید سن خود را خواهند داشت.
در همین راستا، شرکت Anthropic نیز رویکردی مشابه را دنبال میکند. این شرکت در حال توسعه ابزارهایی است که با تحلیل نشانههای ظریف گفتوگویی، احتمال زیر سن قانونی بودن کاربر را تشخیص میدهند. حسابهایی که تعلق آنها به افراد زیر ۱۸ سال تأیید شود، غیرفعال خواهند شد و Anthropic هماکنون نیز کاربرانی را که در طول مکالمه سن خود را اعلام میکنند، علامتگذاری میکند.
این تحولات نشان میدهد که شرکتهای بزرگ هوش مصنوعی بهطور جدیتری در حال بازنگری در مسئولیتهای اجتماعی خود، بهویژه در قبال کاربران نوجوان، هستند.