ابزار نو گوگل ارث چگونه مرز حقیقت و جعل تصاویر ماهواره ای را از بین برد؟
به گزارش مجله نماشو، فناوری نو فراوری تصویر با هوش مصنوعی چنان شتابی گرفته که حتی باسابقه ترین تحلیلگران را هم غافلگیر نموده. شرکت گوگل ابزار نوی را در پلتفرم گوگل ارث (Google Earth) فعال کرد که به کاربران اجازه می داد تنها با نوشتن یک دستور متنی ساده، تصاویر ساختگی هوش مصنوعی را روی نقشه های واقعی ماهواره ای پیاده نمایند. این قابلیت خیلی سریع موجی از تصاویر جعلی اما فوق العاده شبیه سازی شده از صحنه های نابودی، انفجار و بحران های نظامی در نقاط حساس دنیا ایجاد کرد. حجم واکنش ها و ابراز نگرانی محققان به قدری شدید بود که گوگل مجبور شد تنها پس از چند ساعت، این ویژگی نو را کاملاً غیرفعال کند. اما آیا واقعاً مهار تصاویر جعلی ماهواره ای به همین سادگی است؟ در این مقاله می خواهیم آنالیز کنیم چه شد که یک ابزار کاربردی در کوتاه ترین زمان ممکن به کابوس پژوهشگران تبدیل شد، چرا ابزارهای اعتبارسنجیسنتی دیگر جوابگو نیستند و این روند چه خطراتی برای اخبار و حقیقت در دنیا امروز دارد.
???? لیست بخش های این نوشته (کلیک کنید)
- 1. ماجرای عقب نشینی برق آسای غول فناوری از هوش مصنوعی گوگل ارث
- 2. خطرات ساخت جزییات ساختگی روی تصاویر واقعی زمین
- 3. سقوط سنگر نهایی راستی آزمایی در تحقیقات منبع باز
- 4. زمینه تاریخی و فنی؛ وقتی پلتفرم مرجع خود به فراورینماینده جعل تبدیل می گردد
- 5. پیامدها و سناریوهای امروزی؛ جنگ روایت ها در بحران های بین المللی
- 6. آیا واترپارک ها و نشانه گذاری های پنهان واقعاً مانع سوءاستفاده می شوند؟
- 7. تکذیب واقعیت؛ ابزار تازه دولت ها در عصر تصاویر جعلی ماهواره ای
ماجرای عقب نشینی برق آسای غول فناوری از هوش مصنوعی گوگل ارث
ماجرا از جایی آغاز شد که گوگل ویژگی تازه ای بر پایه مدل هوش مصنوعی نانو بنانا 2 (Nano Banana 2) معرفی کرد. فرض اولیه این بود که کاربران و متخصصان علوم جغرافیایی بتوانند مدل های سه بعدی و تصاویری واقع گرایانه از تغییرات محیطی یا طرح های شهری بسازند. همه چیز ساده به نظر می رسید؛ کافی بود روی یک نقطه از کره زمین زوم کنید، گزینه ساخت تصویر را بزنید و متن مورد نظر خود را بنویسید. اما در کمتر از یک روز، کاربران شبکه های اجتماعی آغاز به ساخت صحنه های نگران نماینده کردند. تنها چند ساعت بعد، تصاویری از برخورد هواپیما به آسمان خراش های نیویورک، انفجار در تاسیسات هسته ای و آتش سوزی های گسترده در پایگاه های نظامی یا زیرساخت های نفتی دست به دست شد.
شدت آشفتگی به حدی بود که مدیریت گوگل بلافاصله تصمیم به عقب نشینی گرفت. این شرکت با انتشار بیانیه ای اظهار داشت که اگرچه متخصصان حوزه داده های مکانی از این ویژگی استفاده های مفیدی داشته اند، اما به دلیل انتشار تصاویری که قوانین و سیاست های ایمنی شرکت را نقض نموده اند، فعلاً این قابلیت را غیرفعال می نماید تا راهکارهای امنیتی محکم تری طراحی کند. سرعت عقب نشینی گوگل نشان داد که حتی بزرگ ترین شرکت های فناوری دنیا نیز گاهی در ارزیابی مخاطرات ابزارهای فراوری تصویر جدی دچار خطا می شوند و فرایند ارزیابی مخاطرات پیش از عرضه عمومی را به درستی طی نمی نمایند.
خطرات ساخت جزییات ساختگی روی تصاویر واقعی زمین
دلیل اصلی نگرانی کارشناسان تنها ساخت تصاویر جعلی نیست، بلکه بستر ساخت این تصاویر است. تا پیش از این، تصاویر جعلی هوش مصنوعی معمولاً در محیط های ایزوله یا بوم های خالی ساخته می شدند و انطباق آن ها با دنیای واقعی کار ساده ای نبود. اما ابزار تازه هوش مصنوعی گوگل ارث به کاربر اجازه می داد لایه ای از تخریب، آتش سوزی یا آب گرفتگی را دقیقاً روی داده های واقعی جغرافیا، ساختار خیابان ها و زاویه دوربین ماهواره ای پیاده کند. ترکیب پکسل های واقعی و داده های دستکاری شده هوش مصنوعی، کیفیتی فراوری می کرد که تشخیص آن برای چشم انسان و حتی نرم افزارهای تحلیل تصویر بسار سخت بود.
محققان مستقل حوزه داده های باز توانستند در بازه زمانی کوتاه فعال بودن این ابزار، تصاویری فوق العاده طبیعی از آتش سوزی در پایگاه های مهم نفتی خلیج فارس، سانحه هوایی یا غرق شدن ساختمان های اداری بسازند بدون آنکه سیستم امنیتی گوگل جلوی هیچ کدام از دستورها را بگیرد. این مسئله نشان داد فرآیندهای فیلتر کلمات خطرناک به راحتی دور می خورند. ساخت چنین صحنه هایی با چند کلیک ساده، هزینه و زمان فراوری اخبار جعلی را به صفر می رساند (مسئله ای که در بحران های سیاسی می تواند ظرف چند دقیقه بازارهای مالی یا بورس را دچار شوک کند) و عملاً ردیابی منشأ شایعه را پیچیده می سازد.
سقوط سنگر نهایی راستی آزمایی در تحقیقات منبع باز
در تمام سال های اخیر، تصاویر ماهواره ای به عنوان مطمئن ترین ابزار برای راستی آزمایی وقایع شناخته می شدند. وقتی ویدیو یا تصاویری مبهم در شبکه های اجتماعی از یک انفجار یا درگیری منتشر می شد، روزنامه نگاران و تحلیل گران هوش منبع باز (OSINT) سراغ گوگل ارث و بستر های ماهواره ای می رفتند تا هندسه ساختمان ها، سایه ها و تغییرات زمین را تطبیق دهند. عکس های فضایی به این دلیل قابل اعتماد بودند که به وسیله ماهواره های چرخنده در مدار زمین برداشت می شدند و زاویه دستکاری دست بشر در آن ها بسیار محدود بود.
اکنون بزرگ ترین نگرانی جامعه تحقیقاتی این است که ابزار مرجع حقیقت، خود به کارخانه فراوری سند جعلی تبدیل گردد. اگر کاربران بتوانند داخل همان برنامه ای که قرار است حقیقت را اثبات کند تصاویر دستکاری شده بسازند، اعتمادی که طی دو دهه به داده های جغرافیایی ایجاد شده بود منهدم می گردد. آسیب اصلی در این نهفته است که وقتی مرز بین داده واقعی ماهواره و تصویر فراوریی هوش مصنوعی مخدوش گردد، پایه های راستی آزمایی مستقل به شدت لرزان خواهد شد.
زمینه تاریخی و فنی؛ وقتی پلتفرم مرجع خود به فراورینماینده جعل تبدیل می گردد
گوگل ارث زمانی که در اواسط دهه 2000 میلادی به صورت عمومی عرضه شد، انقلابی در دسترسی همگانی به داده های جغرافیایی ایجاد کرد. امکان تماشای هر نقطه از دنیا از زاویه دید ماهواره ها، ابزاری بی نظیر برای پژوهشگران، محیط زیست شناسان و روزنامه نگاران فراهم آورد. در طول دو دهه گذشته، این سرویس به یک استاندارد طلایی برای اثبات وقایع تبدیل شده بود. اما ورود ابزارهای مولد تصویر به این پلتفرم، پارادایم کاربردی آن را کاملاً تغییر داد.
از منظر فنی، ادغام مدل های یادگیری عمیق با داده های جغرافیایی دقیق (Geospatial Data) چالشی فراتر از فراوری یک تصویر معمولی است. مدل های فراوری تصویر ساده مانند Midjourney یا DALL-E تصاویر را بر اساس الگوهای آماری می سازند، اما وقتی این مدل ها روی داده های سه بعدی و مکانی واقعی نگاشت می شوند، خروجی آن ها دارای مختصات، زاویه نور و تناسبات شهری واقعی است. همین امر باعث می گردد تا ابزارهای سنتی تشخیص جعل که بر اساس ناهماهنگی در پرسپکتیو یا نورپردازی کار می کردند، کاملاً فلج شوند.
پیامدها و سناریوهای امروزی؛ جنگ روایت ها در بحران های بین المللی
سوءاستفاده از تصاویر جعلی ماهواره ای یک فرض تئوریک نیست، بلکه همین حالا پرونده های عملی دارد. پیش از این نیز در بعضی نزاع های منطقه ای، تصاویر دستکاری شده از تخریب پایگاه های نظامی یا تاسیسات حساس در رسانه ها منتشر شده بود تا در جنگ روانی رجحان ایجاد کند. تفاوت اصلی در این است که پیشتر، ساخت چنین تصاویر ساختگی نیازمند مهارت بالای طراحان گرافیک و صرف ساعت ها زمان در نرم افزارهای پیچیده بود، اما ابزارهای هوش مصنوعی این فرایند را عمومی و آنی نموده اند.
در یک سناریوی احتمالی، انتشار تصویر ماهواره ای جعلی از نشت مواد شیمیایی، آسیب به یک نیروگاه یا تجمع نظامی در مرزها می تواند موجب اتخاذ تصمیمات شتاب زده به وسیله نهادهای امنیتی یا ایجاد وحشت عمومی گردد. سرعت انتشار اطلاعات اشتباه همیشه از سرعت تکذیبیه و اصلاحیه ها بیشتر است. وقتی یک تصویر جعل شده با آرم و کیفیت پلتفرم های شناخته شده منتشر می گردد، تاثیر روانی اولیه خود را روی مخاطب می گذارد و حتی پس از تکذیب نیز اثرات آن در افکار عمومی باقی می ماند.
آیا واترمارک ها و نشانه گذاری های پنهان واقعاً مانع سوءاستفاده می شوند؟
شرکت های توسعه دهنده هوش مصنوعی ادعا می نمایند با استفاده از فناوری های تازه مانند واترمارک دیجیتالی سیستم سینث آی دی (SynthID) که نشانه های غیرقابل تماشا در پیکسل های تصویر ایجاد می نماید، جلوی سوءاستفاده را می گیرند. بر اساس این ادعا، اگر تصویری دستکاری شده باشد، الگوریتم های دیگر گوگل یا ابزارهای شناساگر می توانند منشأ غیرواقعی آن را تشخیص دهند. اما آیا این روش در دنیا واقعی و خارج از محیط های آزمایشگاهی کارایی دارد؟
پاسخ تحلیل گران مستقل به این سوال همراه با تردید جدی است. در دنیای واقعی، تصاویر دست به دست شده در شبکه های اجتماعی معمولاً اسکرین شات هایی با کیفیت پایین، فشرده شده یا برش خورده هستند. در فرآیند فشرده سازی شدید رسانه های اجتماعی، بسیاری از این واترمارک های پنهان دیجیتالی ناپدید می شوند یا کارایی خود را از دست می دهند. از سوی دیگر، کاربران عادی برای آنالیز صحت یک تصویر به ابزارهای تخصصی کشف واترمارک دسترسی ندارند و تصمیم گیری خود را بر اساس ظاهر تصویر انجام می دهند. بنابراین، اتکا به واترمارک به عنوان تنها سد دفاعی، روی کاغذ ایده آل است (هرچند در اجرای واقعی عملیات رسانه ای بی اثر می گردد) و نمی تواند جلوی انتشار شایعات را بگیرد.
تکذیب واقعیت؛ ابزار تازه دولت ها در عصر تصاویر جعلی ماهواره ای
خطری که کمتر به آن پرداخته می گردد، ابعاد معکوس انتشار هوش مصنوعی است. وقتی عموم مردم و سیاستمدارها بدانند که تصاویر ماهواره ای به راحتی قابل جعل هستند، یک خطای ادراکی تازه به نام انکار واقعیت شکل می گیرد. در این حالت، حتی اگر یک تصویر واقعی ماهواره ای از وقوع یک جنایت جنگی، تخریب محیط زیست یا نقض حقوق بشر منتشر گردد، دولت ها یا گروه های ذی نفع به سادگی می توانند ادعا نمایند که این تصویر تنها یک جعل هوش مصنوعی است.
این پدیده که در ادبیات آسیب شناسی اطلاعات به آن پاداش دروغگو گفته می گردد، فضای شکاکیت مطلق ایجاد می نماید. در این حالت، مرز میان حقیقت و شایعه چنان محو می گردد که افکار عمومی دیگر هیچ سندی را باور نمی نماید. به این ترتیب، ابزارهایی که با هدف توسعه آگاهی و خلاقیت ساخته شده اند، در عمل به تضعیف شفافیت و حقیقت در جوامع منجر می شوند و سوءاستفاده نمایندگان از این آشفتگی اطلاعاتی بیشترین بهره را خواهند برد.
جمع بندی نهایی
عقب نشینی سریع گوگل از فعال سازی هوش مصنوعی مولد در گوگل ارث، زنگ خطری جدی برای توسعه بی محابای ابزارهای هوش مصنوعی بود. اگرچه ترکیب مدل های فراوری تصویر با داده های جغرافیایی امکانات جذابی برای شبیه سازی های محیطی فراهم می نماید، اما آسیب های آن برای اعتبار اسناد تصویری فوق العاده سنگین است. وقتی ماهواره ها و ابزارهای منبع باز که زمانی مطمئن ترین مرجع راستی آزمایی بودند ناامن شوند، فرآیند کشف حقیقت بسیار پیچیده تر خواهد شد. مهار این بحران نیازمند بازنگری در طراحی ابزارهای هوش مصنوعی، ایجاد مکانیزم های سخت گیرانه تر و افزایش آگاهی عمومی در مواجهه با محتوای دیداری است تا اعتماد عمومی به داده های واقعی کاملاً منهدم نگردد.
منبع: یک پزشک