توسط : 
به گزارش هوش نیوز (وبسایت رسمی آخرین اخبار هوش مصنوعی)، نمایندگان شرکت‌های OpenAI و متا در نشست کمیته مشورتی قواعد ادله قضایی کنفرانس قضایی ایالات متحده در بوستون، درباره افزایش دشواری تشخیص محتوای جعلی تولیدشده با هوش مصنوعی هشدار دادند. این نشست در ۱۵ اکتبر ۲۰۲۶ برگزار شد و یکی از موضوعات اصلی آن، نحوه برخورد نظام قضایی با شواهد صوتی و تصویری تولیدشده یا دست‌کاری‌شده با هوش مصنوعی بود.
با پیشرفت مدل‌های هوش مصنوعی مولد، تولید صداها و ویدئوهایی که به نمونه‌های واقعی شباهت زیادی دارند، آسان‌تر شده است. این مسئله می‌تواند روند بررسی شواهد در دادگاه‌ها را پیچیده کند؛ زیرا تشخیص اینکه یک فایل واقعاً رویدادی را ثبت کرده یا با هوش مصنوعی ساخته و دست‌کاری شده است، اهمیت حقوقی بالایی دارد.
چرا تشخیص دیپ‌فیک دشوارتر شده است؟
دیپ‌فیک (Deepfake) به محتوای صوتی، تصویری یا ویدئویی گفته می‌شود که با استفاده از هوش مصنوعی تولید یا به‌گونه‌ای تغییر داده شده است که واقعی به نظر برسد. این فناوری می‌تواند برای ساخت ویدئوهای جعلی از افراد، شبیه‌سازی صدای آن‌ها یا تغییر محتوای یک فایل واقعی به کار گرفته شود.
شیرا اندرسون، مشاور سیاست‌گذاری OpenAI، در این نشست تأکید کرد که کیفیت محتوای تولیدشده با هوش مصنوعی به‌سرعت در حال افزایش است و نمی‌توان به وجود یک روش علمی قطعی برای شناسایی تمام تصاویر جعلی در آینده اتکا کرد.
نمایندگان شرکت‌ها همچنین توضیح دادند که روش‌های فعلی شناسایی محتوای مصنوعی محدودیت‌هایی دارند. ازاین‌رو، تشخیص اصالت یک فایل تنها با بررسی ظاهری آن یا اتکا به یک ابزار تشخیص خودکار، همیشه نتیجه قابل اعتمادی به همراه ندارد.
آیا واترمارک هوش مصنوعی می‌تواند مشکل را حل کند؟
یکی از روش‌های مورد استفاده شرکت‌های فناوری برای شناسایی محتوای تولیدشده با هوش مصنوعی، واترمارک‌گذاری دیجیتال (Digital Watermarking) است. در این روش، نشانه‌ای قابل مشاهده یا نامرئی در محتوای تولیدشده قرار می‌گیرد تا شناسایی منشأ آن آسان‌تر شود.
روش دیگر، استفاده از اطلاعات منشأ محتوا یا Content Credentials است که می‌تواند اطلاعاتی درباره منبع و سابقه فایل در اختیار کاربران قرار دهد.
بااین‌حال، این فناوری‌ها محدودیت‌هایی دارند. برخی فراداده‌ها ممکن است هنگام ویرایش یا تبدیل فایل حذف شوند و واترمارک‌ها نیز در شرایط خاص آسیب ببینند یا شناسایی نشوند. افزون بر این، نبود یک استاندارد فراگیر و سازگار میان همه پلتفرم‌ها، بررسی محتوای تولیدشده با ابزارهای مختلف را دشوارتر می‌کند.
بنابراین، شناسایی نشدن واترمارک یا اطلاعات منشأ، لزوماً به معنای واقعی بودن یک فایل نیست. در مقابل، وجود نشانه‌های منشأ نیز به‌تنهایی صحت محتوای فایل یا نحوه استفاده از آن را اثبات نمی‌کند.
واکنش نظام قضایی آمریکا به خطر دیپ‌فیک
کمیته مشورتی قواعد ادله قضایی آمریکا از سال ۲۰۲۳ موضوع پذیرش شواهد جعلی تولیدشده با هوش مصنوعی را بررسی کرده است. یکی از پرسش‌های اصلی این کمیته آن است که آیا برای رسیدگی به چنین شواهدی باید قواعد قضایی ویژه‌ای تدوین شود یا قوانین موجود برای مقابله با ارائه مدارک جعلی کفایت می‌کنند.
بر اساس گزارش رویترز، از میان ۹۳۱ قاضی شرکت‌کننده در یک نظرسنجی، تنها ۱۵ نفر با چالش‌های مرتبط با شواهد دیپ‌فیک مواجه شده بودند. با وجود محدود بودن موارد گزارش‌شده، نگرانی درباره پیشرفت سریع فناوری و افزایش دسترسی به ابزارهای تولید محتوای جعلی ادامه دارد.
در این نشست، برخی اعضای کمیته درباره ضرورت تدوین فوری مقررات اختصاصی برای هوش مصنوعی احتیاط نشان دادند. در نهایت، بررسی بیشتر موضوع به‌عنوان بخشی از دستور کار کمیته ادامه خواهد یافت.
این هشدار چه معنایی برای آینده هوش مصنوعی دارد؟
دشوارتر شدن تشخیص محتوای جعلی فقط یک مسئله فنی نیست؛ بلکه می‌تواند بر اعتماد عمومی، رسانه‌ها، امنیت اطلاعات و اعتبار شواهد حقوقی نیز تأثیر بگذارد.
در شرایطی که تولید محتوای واقع‌نما با هوش مصنوعی آسان‌تر می‌شود، اتکا به یک ابزار تشخیص به‌تنهایی کافی نیست. بررسی منبع اولیه فایل، حفظ اطلاعات منشأ محتوا، استفاده از روش‌های مستقل راستی‌آزمایی و ارزیابی شواهد در کنار یکدیگر، می‌توانند نقش مهمی در کاهش خطر انتشار یا پذیرش محتوای جعلی داشته باشند.
جمع‌بندی: هشدار مشترک نمایندگان OpenAI و متا نشان می‌دهد که توسعه ابزارهای تولید محتوای هوش مصنوعی، نظام‌های قضایی و فناوری‌های راستی‌آزمایی را با چالشی جدی روبه‌رو کرده است. درحالی‌که واترمارک‌ها و ابزارهای تشخیص می‌توانند به شناسایی منشأ محتوا کمک کنند، هنوز هیچ روش واحدی برای تضمین اصالت تمام فایل‌های صوتی و تصویری وجود ندارد.
منبع: رویترز – OpenAI و متا درباره خطر شواهد دیپ‌فیک به نظام قضایی آمریکا هشدار دادند
