شرکت گوگل در ادامه تلاش‌های خود برای مقابله با چالش‌های روزافزون پیرامون محتوای ساختگی، قابلیت جدیدی را به اپلیکیشن Gemini افزوده است. به گزارش هوش نیوز، این قابلیت به کاربران اجازه می‌دهد تا تصاویر تولیدشده با ابزارهای هوش مصنوعی گوگل را شناسایی کنند؛ مشروط بر آنکه این تصاویر دارای نشان دیجیتال SynthID باشند. این فناوری که توسط تیم DeepMind توسعه یافته، به‌صورت نامحسوس در پیکسل‌های تصویر جای می‌گیرد و حتی پس از ویرایش یا فشرده‌سازی نیز قابل شناسایی باقی می‌ماند.
براساس داده‌های منتشرشده توسط theverge، این قابلیت فعلاً تنها برای تصاویری فعال است که با استفاده از مدل Imagen در پلتفرم Vertex AI گوگل تولید شده‌اند. به‌عبارت دیگر، Gemini در حال حاضر قادر به شناسایی تصاویر تولیدشده توسط سایر ابزارهای هوش مصنوعی یا تصاویر فاقد نشان SynthID نیست. این محدودیت، اگرچه گامی اولیه محسوب می‌شود، اما نشان‌دهنده رویکرد تدریجی گوگل در پیاده‌سازی فناوری‌های اعتبارسنجی محتواست.
حفظ کیفیت تصاویر در فرآیند ردیابی
فناوری SynthID به‌گونه‌ای طراحی شده که تأثیری بر کیفیت بصری تصویر نداشته باشد و در عین حال، به‌عنوان یک «امضای دیجیتال» عمل کند. این امضا به‌صورت الگویی در سطح پیکسل‌ها تعبیه می‌شود و تنها توسط سیستم‌های گوگل قابل شناسایی است. به گفته منابع آگاه، این فناوری در آینده به سایر محصولات گوگل نیز تعمیم داده خواهد شد و ممکن است به‌عنوان یک استاندارد در صنعت تولید محتوای تصویری مطرح شود.
راهکاری برای کاهش نگرانی‌هایی کاربران
این اقدام گوگل در پاسخ به نگرانی‌های فزاینده درباره گسترش تصاویر جعلی و عمیق‌ساخت (deepfake) در فضای آنلاین صورت گرفته است. با افزایش دسترسی عمومی به ابزارهای تولید تصویر مبتنی بر هوش مصنوعی، مرز میان واقعیت و جعل به‌شدت کمرنگ شده و این موضوع پیامدهای گسترده‌ای در حوزه رسانه، سیاست، آموزش و امنیت اجتماعی به‌دنبال داشته است. از این‌رو، شرکت‌های فناوری به‌دنبال راهکارهایی برای افزایش شفافیت و اعتماد کاربران هستند.
اگرچه قابلیت جدید Gemini هنوز در مراحل ابتدایی قرار دارد و تنها تصاویر تولیدی گوگل را پوشش می‌دهد، اما می‌تواند الگویی برای سایر شرکت‌ها باشد تا فناوری‌های مشابهی را در محصولات خود پیاده‌سازی کنند. همچنین، این قابلیت می‌تواند در آینده به‌عنوان ابزاری برای راستی‌آزمایی محتوای تصویری در پلتفرم‌های خبری، شبکه‌های اجتماعی و موتورهای جست‌وجو مورد استفاده قرار گیرد.
از سوی دیگر، برخی کارشناسان حوزه فناوری معتقدند که این نوع نشان‌گذاری دیجیتال، هرچند در ظاهر راهکاری مؤثر برای مقابله با جعل تصویری است، اما در صورت عدم همکاری سایر شرکت‌ها و پلتفرم‌ها، ممکن است اثربخشی محدودی داشته باشد. به‌ویژه آنکه بسیاری از تصاویر ساختگی در فضای آنلاین توسط ابزارهایی تولید می‌شوند که خارج از اکوسیستم گوگل هستند و فاقد هرگونه نشان‌گذاری قابل شناسایی‌اند.
گوگل در بیانیه‌ای اعلام کرده است این قابلیت در حال حاضر به‌صورت آزمایشی در نسخه موبایل Gemini فعال شده و کاربران می‌توانند با بارگذاری تصویر، از وجود یا عدم وجود نشان SynthID مطلع شوند. این فرآیند به‌صورت کاملاً خودکار انجام می‌شود و نیازی به دانش فنی خاصی ندارد. با این حال، گوگل تأکید کرده که این قابلیت صرفاً برای تصاویر تولیدشده توسط خود گوگل طراحی شده و نمی‌تواند محتوای تولیدی سایر شرکت‌ها را شناسایی کند.
در مجموع، اقدام گوگل را می‌توان گامی مهم در مسیر شفاف‌سازی محتوای تصویری و مقابله با جعل دیجیتال دانست. هرچند این قابلیت هنوز در مراحل اولیه توسعه قرار دارد، اما می‌تواند زمینه‌ساز تحولاتی گسترده در حوزه اعتبارسنجی محتوای بصری باشد. به‌ویژه اگر سایر شرکت‌های فعال در حوزه هوش مصنوعی نیز به‌دنبال پیاده‌سازی فناوری‌های مشابه باشند، می‌توان به آینده‌ای امیدوار بود که در آن مرز میان تصویر واقعی و ساختگی با دقت بیشتری قابل تشخیص باشد.
جمع‌بندی
افزودن قابلیت تشخیص تصاویر تولیدی به اپلیکیشن Gemini، گامی مهم در مسیر شفاف‌سازی محتوای دیجیتال و مقابله با جعل تصویری است. هرچند این قابلیت فعلاً محدود به تصاویر دارای نشان SynthID است، اما می‌تواند زمینه‌ساز توسعه ابزارهای گسترده‌تر در آینده باشد. هوش‌نیوز روند این تحول را با دقت دنبال خواهد کرد و آخرین اخبار هوش مصنوعی را در اختیار مخاطبان خود قرار می‌دهد.