شرکت OpenAI از مسدود کردن عملیات نفوذی برخی کشورها از طریق هوش مصنوعی مولد خبر داد

شرکت OpenAI روز جمعه اعلام کرد که عملیاتی نفوذی را که توسط برخی کشورها از قبیل روسیه و ایران هدایت می‌شد و از فناوری‌های هوش مصنوعی مولد متن این شرکت برای انتشار اطلاعات نادرست در فضای مجازی، به ویژه در ارتباط با انتخابات ریاست جمهوری ایالات متحده، استفاده می‌کرد، شناسایی و خنثی کرده است. این شرکت فعال در حوزه هوش مصنوعی با مقر در سانفرانسیسکو، اعلام کرد که چندین حساب کاربری مرتبط با این عملیات را از خدمات آنلاین خود مسدود کرده است. OpenAI تأکید کرد که به نظر می‌رسد تلاش‌های این کشورها برای دستیابی به مخاطبان گسترده ناموفق بوده است.

به گزارش سرویس اخبار تکنولوژی تکنا، بن نیمو، پژوهشگر ارشد OpenAI که سال‌ها به ردیابی عملیات‌های نفوذ مخفیانه در شرکت‌هایی همچون OpenAI و Meta پرداخته است، اظهار داشت: به نظر نمی‌رسد این عملیات به دلیل استفاده از هوش مصنوعی، افزایش قابل توجهی در تعاملات کاربران را به همراه داشته باشد. وی افزود: ما شواهدی مبنی بر تعامل گسترده کاربران واقعی با این محتوا پیدا نکردیم.

محبوبیت رو به رشد هوش مصنوعی مولد متن، مانند چت‌بات ChatGPT، سوالاتی را در مورد نقش این فناوری‌ها در انتشار اطلاعات نادرست در فضای مجازی، به ویژه در سال‌هایی که شاهد برگزاری انتخابات مهم در سطح جهانی هستیم، مطرح کرده است. در ماه مه، OpenAI گزارشی منتشر کرد که در آن به شناسایی و خنثی‌سازی پنج عملیات آنلاین دیگر که از فناوری‌های این شرکت برای دستکاری افکار عمومی و تأثیرگذاری بر مسائل ژئوپلیتیک استفاده می‌کردند، اشاره شده بود. این عملیات‌ها توسط بازیگران دولتی و شرکت‌های خصوصی در کشورهای روسیه، چین، اسرائیل و دیگر کشورها اجرا می‌شدند.

این عملیات‌های مخفیانه از فناوری OpenAI برای تولید پست‌های رسانه‌های اجتماعی، ترجمه و ویرایش مقالات، نگارش عناوین و رفع اشکال برنامه‌های رایانه‌ای بهره می‌بردند، که عمدتاً با هدف کسب حمایت برای کمپین‌های سیاسی یا تغییر افکار عمومی در بحران‌های ژئوپلیتیکی انجام می‌شد.

در هفته جاری، OpenAI چندین حساب کاربری ChatGPT را شناسایی کرد که از این چت‌بات برای تولید متن و تصاویر در قالب یک عملیات مخفی با نام «Storm-2035» استفاده می‌کردند. این شرکت اعلام کرد که این عملیات از ChatGPT برای تولید محتوا در طیف وسیعی از موضوعات، از جمله تحلیل‌های مرتبط با نامزدهای انتخابات ریاست جمهوری ایالات متحده، بهره می‌برد.

این تحلیل‌ها گاه رویکردی پیشروانه و گاه رویکردی محافظه‌کارانه داشتند و به موضوعات جنجالی همچون جنگ غزه و استقلال اسکاتلند نیز می‌پرداختند. OpenAI تأکید کرد که این عملیات از فناوری‌های این شرکت برای تولید مقالات و نظرات کوتاه‌تر در وب‌سایت‌ها و رسانه‌های اجتماعی استفاده کرده است. در برخی موارد، این عملیات به بازنویسی نظرات کاربران دیگر در رسانه‌های اجتماعی نیز پرداخته است. OpenAI افزود که اکثر پست‌های منتشر شده در رسانه‌های اجتماعی در قالب این عملیات، با واکنش اندکی از سوی کاربران مواجه شده است و شواهد کمی مبنی بر اشتراک‌گذاری گسترده مقالات تولید شده توسط این عملیات در رسانه‌های اجتماعی پیدا شد.

منبع خبر شرکت OpenAI از مسدود کردن عملیات نفوذی برخی کشورها از طریق هوش مصنوعی مولد خبر داد پایگاه خبری تکنا به آدرس تکنا میباشد.