خطرات پنهان ابزار آواتار هوش مصنوعی Zoom

شرکت Zoom در تلاش است تا به زودی قابلیت تبدیل کاربران به آواتارهای فوتورئالیستی متحرک با هوش مصنوعی را ارائه دهد.اما تجربه های مشابه نشان داده این ابزار می توان خطراتی را به همراه داشته باشد.

به گزارش سرویس فناوری تک‌ناک، این ویژگی جدید که در کنفرانس توسعه‌دهندگان سالانه Zoom معرفی شد، به کاربران اجازه می‌دهد تا با ضبط یک کلیپ ویدیویی کوتاه از خود، یک نسخه دیجیتالی ایجاد کنند که سر، شانه‌ها و بخش بالایی بازوها را به طور طبیعی حرکت می‌دهد.

سپس کاربر می‌تواند متن دلخواه خود را وارد نماید و Zoom با استفاده از هوش مصنوعی، صدایی متناسب با حرکت لب‌های آواتار تولید می‌کند.

سمیتا هاشم، مدیر ارشد محصول Zoom، این ویژگی را راهی برای برقراری ارتباط ناهمگام و سریع‌تر و کارآمدتر با همکاران دانسته است. به گفته او، آواتارها با صرفه‌جویی در زمان و تلاش کاربران برای ضبط ویدیو، امکان تولید محتوای ویدیویی با حجم بیشتر را فراهم می‌کنند.

اما این فناوری جدید با چالش‌هایی نیز همراه است.چندین شرکت دیگر نیز فناوری‌هایی برای ایجاد کلون‌های دیجیتال از چهره افراد و تولید صداهای مصنوعی بسیار طبیعی توسعه داده‌اند. با وجود این، بسیاری از این شرکت‌ها برای جلوگیری از سوءاستفاده از این فناوری، اقدامات امنیتی خاصی را در نظر گرفته‌اند.

Zoom نیز به اهمیت امنیت اشاره و اعلام کرده است که برای جلوگیری از سوءاستفاده، اقدامات امنیتی مختلفی از جمله احراز هویت پیشرفته و واترمارک را در این ویژگی جدید اعمال خواهد کرد. با وجود این، هنوز جزئیات کاملی در مورد این اقدامات امنیتی ارائه نشده است.

نگرانی اصلی در مورد این فناوری، امکان ایجاد محتوای جعلی (دیپ‌فیک) است که می‌تواند برای اهداف مخرب مورد استفاده قرار گیرد.

شباهت‌های دیجیتالی Zoom با چشم‌انداز بلندمدت مدیرعامل، اریک یوان، در راستای خلق هوش مصنوعی‌ که روزی بتواند به جای شما در جلسات Zoom شرکت کند، به ایمیل‌ها پاسخ دهد و تماس‌های تلفنی بگیرد، همسو است.

اما این شباهت‌ها در زمانی رونمایی می‌شوند که دیپ‌فیک‌ها به سرعت در حال گسترش در شبکه‌های اجتماعی هستند و تشخیص حقیقت از دروغ را دشوارتر می‌کنند.

در طول سال جاری، دیپ‌فیک‌هایی با چهره افرادی مانند: جو بایدن، تیلور سوئیفت و کامالا هریس میلیون‌ها بار دیده و به اشتراک گذاشته شده‌اند. به تازگی، تصاویر جعلی تولید شده توسط هوش مصنوعی از تخریب و رنج انسانی پس از طوفان هلن، فضای مجازی را فرا گرفته است.

دیپ‌فیک‌ها همچنین برای هدف قرار دادن افراد، مثل جعل هویت عزیزان، مورد استفاده قرار گرفته‌اند. بر اساس گزارش FTC، خسارات ناشی از کلاهبرداری‌های جعل هویت در سال گذشته به بیش از یک میلیارد دلار رسیده است.

چطور Zoom از سوءاستفاده کلاهبرداران از ابزار خود برای ایجاد ویدیوهای جعلی از افرادی که حرف‌هایی می‌زنند که نگفته‌اند، جلوگیری خواهد کرد؟

هنوز پاسخ روشنی برای این سؤال وجود ندارد. نمونه‌ای که شرکت ارائه کرده است، یک واترمارک قابل مشاهده در گوشه بالا سمت راست ویدیوهای آواتار سفارشی را نشان می‌دهد. اما این واترمارک‌ها به راحتی با ابزارهای ضبط صفحه قابل حذف هستند.

امید بر این است که با نزدیک شدن به نیمه اول سال ۲۰۲۵،  مصادف با زمانی که Zoom قصد دارد آواتارهای سفارشی را برای Zoom Clips، ابزار ویدیویی ناهمزمان خود، به عنوان بخشی از یک بسته پریمیوم ۱۲ دلاری در ماه برای هر کاربر عرضه کند، اطلاعات بیشتری در این مورد منتشر شود، اما تلاش‌های قانونی برای مقابله با سیل دیپ‌فیک‌ها چه Zoom این پروژه را انجاد دهد یا نه، ادامه دارد و متوقف نخواهد شد.

اگرچه بیش از ۱۰ ایالت آمریکا قوانینی علیه جعل هویت با کمک آواتار هوش مصنوعی تصویب کرده‌اند، اما هنوز قانون جامعی در تمام ایالت‌های آمریکا یا قانون فدرال که دیپ‌فیک‌ها را جرم انگاری کند، وجود ندارد.

 گفتنی است قانون کالیفرنیا که در حال حاضر متوقف شده است، اولین قانونی خواهد بود که به قضات اجازه می‌دهد تا دستور حذف دیپ‌فیک‌ها را صادر کنند یا مجرمان را با جریمه‌های مالی مواجه نمایند.

نوشته خطرات پنهان ابزار آواتار هوش مصنوعی Zoom اولین بار در تک ناک. پدیدار شد.