براساس گزارش وال‌استریت ژورنال، OpenAI سیستمی برای نشانه‌گذاری متون تولیدشده توسط ChatGPT و ابزاری برای شناسایی این نشانه‌ها آماده کرده است. اما داخل این شرکت اختلافاتی درباره انتشار این ویژگی وجود دارد. از سویی این کار به نظر مسئولانه می‌آید، از سوی دیگر می‌تواند به ضرر درآمدهای شرکت باشد.

OpenAI متون ChatGPT را واترمارک نمی‌کند تا کاربران رضایت بیشتری داشته باشند

واترمارک‌کردن متن‌ها به این صورت است که مدل هوش مصنوعی سازوکار پیش‌بینی کلمات و عبارات را به نحوی تنظیم می‌کند که الگویی قابل‌تشخیص ایجاد کند. این رویکرد می‌تواند به معلمان کمک کند مانع استفاده دانش‌آموزان از هوش مصنوعی برای نوشتن تکالیفشان بشوند. تحقیقات نشان داده واترمارک‌کردن کیفیت خروجی متون ChatGPT را تحت‌تأثیر قرار نمی‌دهد و نظرسنجی‌ها نیز نشان می‌دهند مردم از این ابزار تشخیص هوش مصنوعی حمایت می‌کنند.

OpenAI تأیید کرده است که روی واترمارک‌کردن متن‌ها کار کرده و این روش در برابر تغییرات بسیار دقیق و مقاوم است. اما بازنویسی متن‌ها با مدل‌های دیگر می‌تواند این واترمارک را دور بزند. همچنین این شرکت نگران است که این اقدام کاربران را به ابزارهای هوش مصنوعی بدبین کند.

نتایج نظرسنجی‌ها نشان می‌دهد نزدیک به ۳۰ درصد کاربران اعلام کرده‌اند که درصورت اعمال واترمارک، کمتر از ChatGPT استفاده خواهند کرد. بااین‌حال برخی کارمندان OpenAI همچنان به کارآمدی واترمارک‌کردن اعتقاد دارند و پیشنهاد می‌کنند روش‌های دیگری که کمتر موردبحث کاربران هستند، آزمایش شوند.