عکس های جعلی اما آن را مد کنید. چرا تصاویر مت گالا تنها آغاز فریب هوش مصنوعی است؟

بازیگر جرد لتو سر خودش را به عنوان اکسسوری می پوشد؟ واقعی لیل ناس ایکس خواننده رپ، سر تا پا به رنگ نقره ای، بدنش با مروارید و کریستال پوشیده شده و چیزی جز یک بند بند فلزی دیور به تن ندارد؟ اتفاق افتاد. بازیگر و خواننده بیلی پورتر، با لباس‌های بلند، توسط شش مرد بدون پیراهن با شلوار طلایی به مراسمی همراه شد؟ آره.

اگر یک رویداد وجود داشته باشد که تشخیص واقعیت و فانتزی در آن دشوار باشد، آن مت گالا است، جایی که گریمز یک بار توپی را به اطراف تاب داد و لیدی گاگا یک بار از چهار لباس مختلف بیرون آمد تا اینکه به چیزی جز یک ست لباس زیر مشکی علاقه مند نشد. -برو چکمه، و یک واگن صورتی را در امتداد فرش می کشد.

اما امسال، مردم با مد (که نسبتاً رام بود، لباس‌های آشکار) گیج نشدند. در عوض، آنها در مورد اینکه افراد مشهور چه هستند گیج شده بودند در واقع وجود دارد، به لطف تصاویر تولید شده توسط هوش مصنوعی در بزرگترین شب مد.

و در حالی که ممکن است تصاویر افراد مشهوری مانند کیتی پری و ریحانا که با هوش مصنوعی به صورت آنلاین حضور پیدا می‌کنند بی‌خطر به نظر برسد، کارشناسان می‌گویند هر مورد از هوش مصنوعی مولد که مردم را گمراه می‌کند، بر نگرانی‌های فزاینده در مورد سوء استفاده از این فناوری تاکید می‌کند.

آنها می گویند که نگرانی خاص، اطلاعات غلط و احتمال تقلب، سرقت هویت یا تبلیغات و حتی دستکاری در انتخابات است.

کیسی مایرز، پروفسور و مدیر مدرسه عالی در دانشکده ارتباطات ویرجینیا تک، به آسوشیتدپرس گفت: «قبلاً دیدن، باور کردن است، اما اکنون دیدن، باورکردن نیست».

“[If] حتی یک مادر هم می‌تواند فریب بخورد و تصور کند که تصویر واقعی است، که به شما سطح پیچیدگی این فناوری را نشان می‌دهد.

کیتی پری در مت گالا نبود

تصاویر تولید شده توسط هوش مصنوعی که چندین نام مشهور از جمله پری و ریحانا را در جمع آوری کمک های مالی سالانه موزه هنر متروپولیتن نشان می دهد به سرعت دوشنبه و اوایل سه شنبه در فضای مجازی پخش شد. پری و ریحانا در این گالا شرکت نکردند و مشخص نیست که دقیقاً عکس های آنها از کجا آمده است.

پری دوشنبه شب دو عکس در اینستاگرام خود منتشر کرد و نوشت که “نتوانست به Met برسد، باید کار کند.” او همچنین یک ویدیو از خود در استودیو و یک اسکرین شات از متنی از مادرش قرار داد که لباس او را تحسین می کند.

“لل مامان، هوش مصنوعی به تو هم رسید، مراقب باش!” پری در اسکرین شات متنی پاسخ داد.

صبح چهارشنبه، این پیام حاوی هشداری از طرف واقعیت‌شناس PolitiFact بود که عکس Met توسط هوش مصنوعی ایجاد شده است.

عکس‌های جعلی دیگر سلبریتی‌های این جشن نیز در فضای مجازی منتشر شد، از جمله یکی از ریحانا با لباس سفید و دیگری از خواننده جیسون درولو که از پله‌ها به پایین سقوط می‌کند. X که قبلاً با نام توییتر شناخته می شد، هشداری را به عکس های ریحانا اضافه کرده است که آنها هوش مصنوعی هستند.

وب‌سایت راستی‌آزمایی VerifyThis تأیید کرد که درولو از پله‌ها سقوط نکرده است – عکس ارسال شده مربوط به او نیست، بلکه در جشنواره فیلم کن 2011 گرفته شده است.

اما ابتدا این تصاویر و موارد مشابه در شبکه های اجتماعی به اشتراک گذاشته شده و لایک شده اند. یکی از اینفلوئنسرهای TikTok حتی یک بررسی درخشان از لباس جعلی کیم کارداشیان ارائه کرد. (همانطور که فوربس اشاره کرد، کارداشیان در این مراسم حضور داشت، اما لباسی متفاوت به تن داشت.) این ویدیو 9.6 میلیون بازدید داشته است.

در یک ویدیوی بعدی، اینفلوئنسر به تصویر جعلی پری پاسخ داد و گفت: “این واقعیت که مادر خودش، خون خودش، فکر می‌کرد کیتی پری است… کل اینترنت فریب خورد.”

افزایش مشکل دستکاری عکس و هوش مصنوعی

این دور از اولین باری است که هوش مصنوعی مولد را می بینیم، شاخه ای از هوش مصنوعی که می تواند چیز جدیدی ایجاد کند و برای تولید محتوای جعلی استفاده شود. تصاویر، ویدئوها و تقلب های صوتی چهره های مشهور، از پاپ فرانسیس گرفته تا تیلور سویفت، قبلاً در فضای مجازی محبوب شده بودند.

همچنین، این دور از اولین دستکاری عکس است که در مورد واقعی بودن شک و تردید ایجاد کرده و باعث شده رسانه ها دوباره به عکس ها نگاه کنند.

برای مثال، در ماه مارس، مشخص شد که دو تصویر منتشر شده توسط کاخ کنزینگتون به صورت دیجیتالی تغییر یافته است – عکس بدنام کاترین، پرنسس ولز، که توسط فرزندان خندان او احاطه شده است. و تصویری از ملکه الیزابت با نوه ها و نوه هایش در سال 2022.

اما هوش مصنوعی این مشکلات را وارد مرحله جدیدی کرده است.

«در اینجا پیامدها بسیار فراتر از امنیت انسانی است – و واقعاً موضوعاتی مانند امنیت ملی، امنیت را در بر می گیرد [our] دیوید برونیاتوفسکی، دانشیار دانشگاه جورج واشنگتن و محقق ارشد موسسه هوش مصنوعی مورد اعتماد در قانون و جامعه این مدرسه به آسوشیتدپرس گفت.

اوایل سال جاری، تصاویر جعلی و توهین آمیزی از سویفت در فضای مجازی منتشر شد. تحقیقات همچنین نشان می‌دهد که مواد تولید شده توسط هوش مصنوعی در معرض آسیب‌های زیادی به زنان و کودکان وارد می‌کنند – از جمله مواردی که برهنه‌های تولید شده توسط هوش مصنوعی در مدارس در گردش هستند.

در ماه مارس، مرکز مقابله با نفرت دیجیتال (CCDH)، یک سازمان غیرانتفاعی بریتانیایی که سخنان نفرت‌انگیز آنلاین را رصد می‌کند، گزارشی منتشر کرد که نشان می‌دهد چگونه تولیدکنندگان تصویر هوش مصنوعی می‌توانند یکپارچگی انتخابات و دموکراسی را تهدید کنند.

این مرکز از ابزارهای هوش مصنوعی مولد برای ایجاد تصاویری از جو بایدن، رئیس‌جمهور آمریکا که روی تخت بیمارستان دراز کشیده و کارگران انتخاباتی در حال شکستن ماشین‌های رای‌گیری هستند، استفاده کرد، که نگرانی‌هایی را در مورد تقلب احتمالی پیش از انتخابات ریاست‌جمهوری آمریکا در نوامبر ایجاد کرد.

محققان CCDH در این گزارش خاطرنشان کردند: «پتانسیل چنین تصاویری که توسط هوش مصنوعی به‌عنوان «شواهد عکس» استفاده می‌شوند، می‌تواند گسترش ادعاهای نادرست را تشدید کند و یک چالش مهم برای یکپارچگی انتخابات ایجاد کند.

و اینجاست که عده ای از عکس های جعلی مت گالا عصبی می شوند.

«عکس‌های جعلی مت گالا که توسط هوش مصنوعی تولید شده است، مقدمه‌ای برای اتفاقاتی است که از هم‌اکنون تا انتخابات در پیش است». کاربر روی X نوشت.

تماشای فریب همه افراد با ظاهر مت گالا ریحانا در زمان واقعی باید ما را از ترس پوشش انتخاباتی آتی به لرزه درآورد. من در حال حاضر خیلی خسته هستم،” او نوشت یکی دیگر.