هوش مصنوعی مولد به طور مداوم چشمانداز دیجیتالی ما را با نوآوریهای جدید متحول میکند و جدیدترین دستاورد مایکروسافت، VASA-1، احتمالاً پیشگامترین و در عین حال نگرانکنندهترین مورد تا به امروز است.
VASA-1، یک مدل تصویر به ویدیو، مرز بین ویدیوی واقعی و ساختگی را محو میکند. با استفاده از یک تصویر واحد و یک نمونه صوتی، میتواند ویدیوهای تکاندهندهای با حرکات و عبارات لب واقعی تولید کند.
کاربردهای بالقوه این فناوری بسیار وسوسهانگیز هستند:
شخصیتهای تاریخی میتوانند با استفاده از این ابزار زنده شوند و در آموزش به کار گرفته شوند.
همراهان مجازی میتوانند با ارائه مزایای حمایتی و درمانی به افراد کمک کنند.
این فناوری میتواند انقلابی در آموزش و سرگرمی ایجاد کند.
با این حال، پتانسیل سوء استفاده از آن نیز به همان اندازه قابل توجه است:
دیپفیکهای فوقالعاده واقعی میتوانند برای انتشار اطلاعات نادرست و تضعیف اعتماد به کار گرفته شوند.
این ابزار میتواند حقایق را زیر سوال ببرد و به بیاعتمادی در جامعه دامن بزند.
مایکروسافت با آگاهی از این خطرات، تأکید میکند که VASA-1 در حال حاضر فقط برای تحقیقات استفاده میشود. این شرکت خطرات ذاتی را به رسمیت میشناسد و متعهد به جلوگیری از سوء استفاده از این فناوری است.
مایکروسافت همچنین اعلام کرده که تا زمان وضع مقررات قوی، این ابزار را به طور عمومی منتشر نخواهد کرد. این رویکرد محتاطانه باید به عنوان یک هنجار در صنعت فناوری تبدیل شود.
سرعت سرسامآور نوآوری پیشبینی آینده را به یک چالش تبدیل میکند. پیامدهای سیستمهایی مانند VASA-1 برای جامعه چه خواهد بود؟
