توسط : 
هوش نیوز – سیستمهای هوش مصنوعی خودکار و مستقل (Agentic AI) دیگر محدود به نرمافزار نیستند و به سرعت در حال ورود به محیطهای فیزیکی واقعی مانند انبارها، رباتهای تحویل، خودروهای خودران و فضاهای عمومی هستند. این پیشرفت مهم، چالشهای جدیدی را برای چارچوبهای نظارتی هوش مصنوعی ایجاد کرده است.
تاکنون بیشتر مقررات هوش مصنوعی بر روی آسیبهای آنلاین مانند عدم تعادل، اطلاعات غلط و محتوای مضر تمرکز داشتهاند، اما سیستمهای embodied AI (هوش مصنوعی تجسمی) ریسکهای مستقیم فیزیکی به همراه دارند؛ از آسیب به زیرساختها و اموال گرفته تا تهدید ایمنی انسانها.
در ۲۰ مه ۲۰۲۶، مقام توسعه رسانه و ارتباطات سنگاپور (IMDA) نسخه ۱.۵ چارچوب مدل نظارتی هوش مصنوعی برای Agentic AI را منتشر کرد. این چارچوب راهنماییهای عملی برای سازمانهایی ارائه میدهد که از عاملهای هوش مصنوعی استفاده میکنند؛ عاملهایی که میتوانند برنامهریزی کنند، تصمیم بگیرند و اقدامات چندمرحلهای برای دستیابی به اهداف انجام دهند.
این عاملها قادر به تعامل با ابزارها، سیستمهای خارجی، بهروزرسانی پایگاههای داده، کنترل دستگاهها و حتی انجام تراکنشها هستند. چارچوب بر کنترل دسترسی، نظارت مداوم و نیاز به تأیید انسانی در نقاط حساس تأکید دارد.
بحثهای اجلاس سنگاپور
در اجلاس هوش مصنوعی اخیر سنگاپور، کارشناسان بر مسائل ایمنی عملی تمرکز کردند. دکتر یا-کین ژانگ، رئیس موسسه تحقیقات صنعت هوش مصنوعی دانشگاه تسینگهوا، هشدار داد: «هر ریسکی در حوزه دیجیتال در حوزه فیزیکی تقویت میشود و عواقب فیزیکی واقعی خواهد داشت.»
او افزود که خودروها، پهپادها، شبکههای لجستیک و زیرساختهای حیاتی در معرض خطر قرار خواهند گرفت. کارشناسان بر لزوم شبیهسازی گسترده، نظارت عملیاتی (Telemetry) و تستهای تکراری پس از استقرار تأکید کردند.
شرکت Grab که در حال آزمایش رباتهای تحویل و خودروهای خودران در منطقه پونگول سنگاپور است، اعلام کرد که قبل از گسترش مقیاس، تستهای گسترده در شبیهسازی و محیطهای کنترلشده انجام میدهد. سوثن توماس پاراداتت، مدیر فناوری Grab گفت: «مسائل طولانیمدت (long tail) همیشه ممکن است ظاهر شوند.»
مسئولیت و نظارت انسانی
چارچوب IMDA مسئولیت را در کل زنجیره ارزش (از توسعهدهندگان مدل تا شرکتهای استقادهکننده و کاربران نهایی) پخش میکند. انسانها همچنان مسئول اقدامات عاملهای هوش مصنوعی هستند، حتی اگر این عاملها به صورت خودکار عمل کنند.
این چارچوب چهار حوزه اصلی نظارتی را مشخص کرده است: ارزیابی ریسک اولیه، مسئولیت انسانی، کنترلهای فنی و مسئولیت کاربر نهایی. نظارت انسانی باید هوشمندانه باشد تا از «تعصب اتوماسیون» و خستگی ناظران جلوگیری شود.
در بخش صنعتی نیز ژاپن و چین فعالانه پیش میروند. ژاپن بر جمعآوری دادههای رباتیک و استانداردهای ایمنی تمرکز کرده و چین از طریق تستبدهای دولتی، تجاریسازی سریع رباتهای humanoid را پیگیری میکند.
هوش نیوز مینویسد: ورود هوش مصنوعی مستقل به دنیای فیزیکی، عصر جدیدی از سیستم های نظارتی و مقرراتی را آغاز کرده است. موفقیت این سیستمها نه تنها به پیشرفت فناوری، بلکه به طراحی چارچوبهای هوشمندانه نظارتی بستگی دارد که بتوانند ایمنی، مسئولیت و نوآوری را همزمان تضمین کنند.
