به گزارش ایسنا، با گسترش فضای مجازی و افزایش حجم محتوای صوتی و تصویری، نهادهای نظارتی مانند ساترا با چالش‌های پیچیده‌ای در مدیریت و نظارت بر محتوای منتشر شده مواجه هستند. در این میان ساترا به دنبال این است از ظرفیت هوش مصنوعی برای انجام هر چه بهتر فعالیت‌های خود بهره‌مند شود؛ چراکه معتقد است، هوش مصنوعی می‌تواند به‌عنوان ابزاری قدرتمند در تسهیل و بهبود فرآیند نظارت پیشینی (پیش از انتشار محتوا) ایفای نقش کند.

بر همین اساس رئیس ساترا، معاون این سازمان و همچنین یک کارشناس در حوزه معاونت کاربران و تنظیم‌گری اجتماعی نکاتی را در باب استفاده از هوش مصنوعی تدوین مقررات برای تولید و انتشار محتوا و نظارت بر فعالیت سازمان تنظیم مقررات رسانه های صوت و تصویر فراگیر در فضای مجازی مطرح کرده‌اند.

دغدغه‌مان روی هوش مصنوعی مردمی باشد

سعید مقیسه ـ رئیس ساترا ـ درباره‌ی ظرفیت هوش مصنوعی معتقد است: کارکرد هوش مصنوعی در زمینه‌هایی شامل هوشمند کردن سیستم‌های خبره و پالایش هوشمند محتوا برای ما کاربردی خواهد بود. این یک بعد از هوش مصنوعی است اما در بعد دیگری از هوش مصنوعی، ما بیشتر عقب‌ افتاده‌ایم؛ آن هم تولید محتوا توسط افراد با اتکا به ابزارهای هوش مصنوعی خارجی است که به‌طور فزاینده‌ای در میان مردم رواج یافته است. باید توجه داشت که هوش مصنوعی مقوله جدیدی نیست و از زمان معرفی چت‌جی‌پی‌تی، این فناوری بین عموم مردم شناخته شده است.

مقیسه معتقد است: پالایش هوشمند محتوا در سازمان‌ها به خوبی شکل نگرفته اما تولید محتوا توسط مردم با استفاده از ابزارهای ساده و مهارت‌های حداقلی در حال گسترش است. ما اکنون در کارگروه‌های هوش مصنوعی در حال آموزش این مهارت‌ها هستیم. نگرانی اصلی این است که ابزارهای تولید محتوای هوش مصنوعی خارجی، زیست‌بوم فضای مجازی کشور را تحت تأثیر قرار دهند. این تهدید ممکن است از سوی افرادی باشد که آموزش کافی ندیده‌اند، به‌ویژه نوجوانانی که به‌راحتی می‌توانند محتوا تولید کنند بدون اینکه تجربه یا آگاهی کافی از راهبردهای محتوایی داشته باشند. این موضوع می‌تواند خطرناک باشد. به‌عبارت دیگر، فرزند ما که تا دیروز مصرف‌کننده بود، اکنون به یک تولیدکننده محتوا تبدیل شده است، در حالی که در واقع این نرم‌افزار هوش مصنوعی است که محتوا تولید می‌کند، اما تحت هدایت یک کودک. این محتوا بلافاصله قابل انتشار است و باید به این نکته توجه کرد. بنابراین، باید هوش مصنوعی مردمی و هوش مصنوعی حاکمیتی را از یکدیگر تفکیک کنیم. ما باید دغدغه‌مان بیشتر بر روی هوش مصنوعی مردمی باشد تا بتواند فضای مجازی را سالم‌تر کند و خدای ناکرده، تهدیدهایی برای این فضا ایجاد نکند.

هوش مصنوعی در کدام بخش ساترا راهگشاست

محمدصادق افراسیابی ـ معاون کاربران و تنظیم‌گری اجتماعی ساترا ـ‌ معتقد است: فعالیت سازمان تنظیم مقررات رسانه‌های صوت و تصویر فراگیر در فضای مجازی در حال حاضر در پنج حوزه تدوین مقررات در حوزه استفاده سکوهای صوت و تصویر فراگیر و شبکه نمایش خانگی از هوش مصنوعی برای تولید و انتشار محتوا، ملزم ساختن رسانه‌های کاربر متقاضی مجوز به استفاده از هوش مصنوعی برای انجام هر چه بهتر نظارت محتوایی، استفاده از ظرفیت هوش مصنوعی برای نظارت بر فعالیت سکوهای صوت و تصویر فراگیر و شبکه نمایش خانگی، با هوش مصنوعی پیوند خورده است.

همچنین شروع مراحل تدوین مقررات استفاده از هوش مصنوعی در سکوهای صوت و تصویر فراگیر و شبکه نمایش خانگی برای تولید و انتشار محتوا و همچنین آموزش مباحث مرتبط با هوش مصنوعی به مدیران و کارکنان ساترا از دیگر امکاناتی است که معاون کاربران و تنظیمگری اجتماعی ساترا معتقد است با استفاده از ظفیت توسط هوش مصنوعی می‌توان بهره برد.

نقش هوش مصنوعی در نظارت بر شبکه نمایش خانگی

محمدرضا محمدی ـ کارشناس معاونت کاربران و تنظیم‌گری اجتماعی ـ هم درباره نقش هوش مصنوعی بر نظارت ساترا معتقد است:  هوش مصنوعی می‌تواند به‌عنوان ابزاری قدرتمند در تسهیل و بهبود فرآیند نظارت پیشینی (پیش از انتشار محتوا) ایفای نقش کند. هوش مصنوعی با استفاده از الگوریتم‌های پردازش زبان طبیعی، تحلیل تصاویر و ویدئوها، و همچنین تکنیک‌های یادگیری عمیق می‌تواند محتوای چندرسانه‌ای را پیش از انتشار بررسی کرده و با تطبیق آن با قوانین و معیارهای اخلاقی و فرهنگی، محتوای نامناسب یا خلاف قوانین را شناسایی کند. این تکنولوژی قادر است با سرعت بسیار بالا و دقت بیشتر نسبت به روش‌های انسانی، حجم عظیمی از داده‌ها را تحلیل کرده و از انتشار محتوای خطرناک یا نامناسب جلوگیری کند. بنابراین فناوری هوش مصنوعی قادر به کنترل همه چالش‌های پیش‌روی تنظیم گری سکوها است. استفاده از هوش مصنوعی کمک شایانی به ایفای نقش تنظیم‌گری و نظارت و کنترل اجرای ضوابط و مقررات می‌کند. بهره‌گیری از هوش مصنوعی برای اعمال قواعد تنظیم‌گری از مهم‌ترین مأموریت‌های پیش روی ساترا است.

وی یکی از مزایای مهم هوش مصنوعی را کاهش زمان و هزینه‌های نظارتی می‌داند و می‌گوید: هوش مصنوعی می‌تواند به‌صورت خودکار و لحظه‌ای محتوای تولیدشده را اسکن کرده و بدون نیاز به دخالت انسانی، ارزیابی اولیه را انجام دهد. این موضوع نه‌تنها باعث افزایش بهره‌وری در فرآیندهای نظارتی می‌شود، بلکه خطای انسانی را نیز کاهش می‌دهد. الگوریتم‌های هوش مصنوعی می‌توانند الگوهای تکراری و موارد خاصی را که ممکن است انسان‌ها نادیده بگیرند، شناسایی کنند و به این ترتیب از بروز اشتباهات و سوءتفاهمات در محتوای نظارتی جلوگیری کنند. علاوه بر نظارت بر محتوا، هوش مصنوعی می‌تواند در پیش‌بینی رفتار کاربران نیز موثر باشد. با تحلیل داده‌های بزرگ (Big Data)، این تکنولوژی می‌تواند رفتار کاربران و الگوهای مصرف محتوای آنها را شناسایی کند و در نتیجه پیشنهاداتی به نهادهای نظارتی ارائه دهد که چه نوع محتواهایی احتمالاً می‌توانند مشکلات فرهنگی، اخلاقی یا قانونی ایجاد کنند. این پیش‌بینی‌ها می‌توانند به ساترا کمک کنند تا قبل از انتشار محتوایی خاص، برای نظارت دقیق‌تر و حتی تغییرات در سیاست‌های نظارتی آماده باشد.

کارشناس معاونت کاربران و تنظیم‌گری اجتماعی در پایان یادآور می‌شود: باید گفت با توجه به ظرفیت رسانه‌های کاربرمحور برای انتشار محتوای تولیدشده توسط کاربران فضای مجازی، بهره گرفتن از هوش مصنوعی سبب شده تا به‌سادگی بدون اتکا صرف به توان نیروی انسانی نحوه انتشار محتوا با قواعد تنظیم گری صورت پذیرد. صاحبان سکوها در اکثر کشورهای غربی برای اعمال نظارت بر سرویس‌های خود از ظرفیت هوش مصنوعی استفاده می‌کنند تا امکان هدایت و کنترل محتوا را داشته باشند. در حال حاضر سکوهای ایرانی استفاده چندانی از هوش مصنوعی در فرآیندهای انتشار محتوا ندارند، فقط یک سکوی کاربرمحور مدعی استفاده گسترده از هوش مصنوعی است که با توجه به وجود محتوای مجرمانه و نامناسب در این سکو به نظر می‌رسد قواعد تنظیم‌گری در این سکو نیز رعایت نمی‌شود. ظرفیت‌های مغفول بسیاری در این زمینه وجود دارد که باید فعال شود.

* مطالب این گزارش برگرفته از مجله تخصصی کد است.

انتهای پیام