یوتیوب به جنگ دیپ فیک می‌رود: ابزار جدید حفاظت از هویت سازندگان محتوا با هوش مصنوعی

یوتیوب ابزاری جدید مبتنی بر هوش مصنوعی را برای مقابله با دیپ فیک‌ها معرفی کرد. این سیستم به سازندگان محتوا اجازه می‌دهد تا هویت خود را در برابر استفاده غیرمجاز حفظ کنند.

در عصر کنونی، با گسترش فزاینده محتوای تولیدشده توسط هوش مصنوعی و سوءاستفاده از هویت افراد، پلتفرم‌ها نیازمند ابزارهای قدرتمندی برای حفاظت از کاربران خود هستند. یوتیوب نیز در پاسخ به این چالش‌ها، یک سیستم پیشرفته برای شناسایی و مدیریت دیپ‌فیک‌ها معرفی کرده است. این ابزار به طور خاص طراحی شده تا به سازندگان محتوا کمک کند کنترل کاملی بر چهره و صدای خود در فضای دیجیتال داشته باشند. با بهره‌گیری از هوش مصنوعی، یوتیوب قدم مهمی در جهت حفظ اعتماد و امنیت جامعه خود برمی‌دارد.

ابزار جدید یوتیوب و سازوکار شناسایی دیپ فیک

یوتیوب سیستم تشخیص هوش مصنوعی خود را به طور گسترده راه‌اندازی کرده است که قادر به شناسایی و مدیریت محتوای تولیدشده با هوش مصنوعی است و چهره یا صدای یک تولیدکننده محتوا را بازسازی می‌کند. این ویژگی، که اکنون برای اعضای تأییدشده برنامه شریک یوتیوب (YouTube Partner Program) در دسترس است، به تولیدکنندگان اجازه می‌دهد تا ویدئوهای دیپ فیک را که از چهره آن‌ها برای مقاصد تجاری یا گمراه‌کننده استفاده می‌کنند، بررسی و درخواست حذف آن‌ها را ارائه دهند.

این فناوری تشخیص چهره و صدا، از الگوریتم‌های هوش مصنوعی بهره می‌برد تا رسانه‌های مصنوعی را در میان حجم عظیمی از ویدئوهای بارگذاری‌شده در یوتیوب شناسایی کند. این ابزار پس از فعال‌سازی، ویدئوهای جدید را به‌طور مداوم با داده‌های مرجع ارائه‌شده توسط تولیدکنندگان مقایسه می‌کند؛ فرآیندی مشابه سیستم کپی‌رایت Content ID. هدف اصلی یوتیوب جلوگیری از جعل هویت‌هایی است که می‌تواند مخاطبان را گمراه کند یا تأیید نادرستی را به افراد نسبت دهد.

• دوبله خودکار یوتیوب؛ ایده‌ای عالی با اجرایی فاجعه‌بار
• وحشت مستربیست از پیشرفت هوش مصنوعی در تولید ویدیو؛ چه بر سر یوتیوبرها خواهد آمد؟
• تماشا کنید: این شما و این اولین ویدیوی تاریخ یوتیوب در ۲۰ سال قبل
• قابلیت ترجمه شعر به یوتیوب موزیک رسید؛ آهنگ‌های خارجی را با معنی گوش دهید

فرآیند فعال‌سازی و کنترل هویت

تولیدکنندگانی که مایل به استفاده از این قابلیت هستند، ابتدا باید هویت خود را تأیید کنند. این فرآیند شامل رضایت به پردازش داده، اسکن یک کد QR، بارگذاری یک کارت شناسایی دولتی، و ضبط یک ویدئوی سلفی کوتاه برای آموزش مدل تطبیق چهره و صدا است. سیستم‌های یوتیوب داده‌های سلفی و شناسایی را روی سرورهای گوگل تأیید می‌کنند و پس از چند روز، دسترسی کامل به این ابزار در YouTube Studio فعال می‌شود.

پس از تأیید، تولیدکنندگان می‌توانند یک داشبورد اختصاصی را مشاهده کنند که ویدئوهای منطبق با چهره آن‌ها را فهرست می‌کند. این لیست شامل عنوان ویدئو، کانال بارگذاری‌کننده، تعداد بازدید و اطلاعات مشترکین است، به همراه ارزیابی یوتیوب در مورد احتمال تولید محتوا با هوش مصنوعی. در صورت تطابق، تولیدکنندگان سه گزینه پیش رو دارند: ثبت درخواست حذف بر اساس سیاست‌های حفظ حریم خصوصی یوتیوب، ارائه شکایت کپی‌رایت در صورت استفاده بدون اجازه از محتوا یا صدای آن‌ها، یا آرشیو کردن ویدئو برای مستندسازی.

یوتیوب هشدار داده که نتایج اولیه ممکن است بین کلیپ‌های واقعی از کانال تولیدکننده و نسخه‌های مصنوعی تمایز قائل نشود، زیرا الگوریتم تشخیص هنوز در حال بهبود دقت خود است. این سیستم از اواخر سال گذشته در همکاری با Creative Artists Agency با ۵ هزار تولیدکننده آزمایش شده بود.