توسط : 
نتایج یک پژوهش تازه در اروپا نشان میدهد که زبان شاعرانه میتواند به ابزاری برای عبور از سدهای امنیتی سامانههای گفتوگویی آنلاین تبدیل شود. این روش که «شعرهای خصمانه» یا Adversarial Poetry نام گرفته، در آزمایشهای انجامشده توانست بیش از ۶۰ درصد موفقیت در شکستن محدودیتها به دست آورد. پژوهشگران توضیح دادهاند که دلیل اصلی این موفقیت، استفاده از زبان غیرمعمول و استعاری است؛ زبانی که الگوریتمهای امنیتی قادر به شناسایی آن نیستند.
فریب هوش مصنوعی با اشعار
براساس دادههای منتشرشده توسط تحریریه هوشنیوز، این مطالعه روی ۲۵ سامانه مختلف آزمایش شد. نتایج نشان داد که ۱۳ سامانه در بیش از ۷۰ درصد موارد تحت تأثیر قرار گرفتند و اطلاعاتی را ارائه دادند که در حالت عادی مسدود میشود. این اطلاعات میتواند شامل دادههای حساس در حوزههای مختلف باشد؛ از فناوریهای نظامی گرفته تا دستورالعملهای مرتبط با ساخت مواد خطرناک. هرچند پژوهشگران تأکید کردهاند که هدف آنها تنها نشان دادن آسیبپذیری بوده و نه استفاده عملی از این دادهها.
کشف فریب هوش مصنوعی، پیامدهای گستردهای برای حوزه امنیت دیجیتال دارد. زیرا نشان میدهد حتی با وجود طراحی سدهای حفاظتی و فیلترهای پیچیده، راههای خلاقانهای برای عبور از آنها وجود دارد. این موضوع نهتنها در زمینه اطلاعات حساس، بلکه در حوزههای دیگر همچون بدافزارها، محتوای غیرقانونی و حتی تبلیغات مخرب نیز میتواند خطرآفرین باشد. به بیان دیگر، زبان شاعرانه به ابزاری برای فریب سامانهها تبدیل شده است.
سوءاستفاده گسترده از هوش مصنوعی
کارشناسان امنیتی هشدار دادهاند که فریب هوش مصنوعی به واسطه زبان شاعرانه و آسیبپذیری آن میتواند به سوءاستفادههای گسترده منجر شود. آنها تأکید دارند که شرکتهای فناوری باید بهسرعت راهکارهای جدیدی برای مقابله با چنین حملاتی طراحی کنند. یکی از پیشنهادهای مطرحشده، استفاده از سامانههای چندلایهای است که علاوه بر تحلیل معنایی، توانایی تشخیص الگوهای زبانی غیرمعمول را نیز داشته باشند. با این حال، اجرای چنین راهکارهایی نیازمند سرمایهگذاری سنگین و همکاری گسترده میان شرکتها و نهادهای نظارتی است.
آخرین اخبار هوش مصنوعی نشان میدهد که سامانههای کوچکتر و کمتر شناختهشده آسیبپذیری بیشتری دارند. در مقابل، برخی شرکتهای بزرگ توانستند مقاومت نسبی نشان دهند، اما همچنان در مواردی شکست خوردند. این موضوع نشان میدهد که هیچ سامانهای بهطور کامل ایمن نیست و نیاز به بازنگری جدی در سیاستهای حفاظتی وجود دارد.
کاهش اعتماد کاربران
خبرنگار wired گزارش میدهد که این یافتهها میتواند اعتماد عمومی به سامانههای دیجیتال را تحت تأثیر قرار دهد. زیرا کاربران انتظار دارند که این سامانهها نهتنها کارآمد باشند، بلکه امنیت آنها نیز تضمین شود. در صورت تداوم چنین آسیبپذیریهایی، احتمال کاهش اعتماد و حتی محدودیتهای قانونی برای استفاده از این فناوریها وجود دارد. کارشناسان معتقدند که آینده این سامانهها به توانایی شرکتها در مقابله با تهدیدهای خلاقانه وابسته است.
جمعبندی
پژوهش تازه نشان داد که فریب هوش مصنوعی با اشعار، میتواند سدهای امنیتی سامانههای گفتوگویی آنلاین را بشکند. این یافتهها زنگ خطری جدی برای امنیت دیجیتال محسوب میشود و ضرورت بازنگری فوری در سیاستهای حفاظتی را برجسته میکند. تحریریه هوشنیوز تأکید دارد که آینده این فناوریها به توانایی شرکتها در مقابله با چنین تهدیدهای خلاقانه وابسته است.
