توسط : 
به گزارش theverge، موج جدیدی از تغییرات در سیاستگذاری پلتفرمهای گفتوگومحور در حال شکلگیری است؛ تغییری که مستقیماً نوجوانان را هدف قرار میدهد و با هدف ایجاد محیطی امنتر برای این گروه سنی طراحی شده است. شرکتهای OpenAI و Anthropic اعلام کردهاند که مجموعهای از ابزارهای تشخیص سن، محدودسازی موضوعات حساس و دستورالعملهای رفتاری تازه را برای کاربران ۱۳ تا ۱۷ ساله فعال کردهاند. این موضوع در روزهای اخیر به یکی از محورهای مهم اخبار هوش مصنوعی و سایتهای خبری هوش مصنوعی تبدیل شده است.
حفظ ایمنی نوجوانان
OpenAI با فعالیت هدفمند در روزهای اخیر از جمله انتشار GPT IMAGE 1.5، در تازهترین اقدام خود، سند Model Spec را بهروزرسانی کرده و اصول جدیدی را برای تعامل با نوجوانان تدوین کرده است. خبرنگار هوشنیوز گزارش میدهد که این اصول برای شناسایی کاربران نوجوان جهت هدایت آنان به منابع معتبر، جلوگیری از ورود به موضوعات حساس و ارائه توصیههای حمایتی در شرایط بحرانی است. این شرکت تأکید کرده که «ایمنی نوجوانان باید بر سایر اهداف اولویت داشته باشد»؛ موضوعی که در گزارشهای مختلف نیز به آن اشاره شده است.
یکی از مهمترین تغییرات، فعالسازی حالت «ایمنتر» برای کاربران ۱۳ تا ۱۷ ساله در ChatGPT است. با شناسایی کاربران نوجوان، مدل از ورود به موضوعاتی مانند خشونت، آسیبرسانی یا محتوای بزرگسالانه خودداری میکند و در صورت نیاز، کاربران را به افراد قابل اعتماد یا منابع معتبر ارجاع میدهد. این اقدام در راستای کاهش ریسکهای مرتبط با سلامت روان نوجوانان انجام شده است؛ ریسکهایی که در ماههای اخیر مورد توجه نهادهای نظارتی قرار گرفتهاند.
توسعه فناوری نوین برای نوجوانان
در سوی دیگر، Anthropic نیز اعلام کرده که در حال توسعه سیستم جدیدی برای تشخیص سن کاربران است که بتواند شناسایی کاربران نوجوان را به راحتی انجام دهد. این شرکت قصد دارد با استفاده از الگوهای رفتاری و نشانههای زبانی، کاربران زیر ۱۸ سال را شناسایی کند و در صورت لزوم، حسابهای مشکوک را محدود یا غیرفعال کند. خبرنگار سایت جامع هوش مصنوعی گزارش میدهد که Anthropic بهطور رسمی استفاده افراد زیر ۱۸ سال از Claude را ممنوع کرده و این سیستم تشخیص سن، نقش مهمی در اجرای این سیاست خواهد داشت.
افزایش فشار قانونگذاران یکی از دلایل اصلی شناسایی کاربران نوجوان عنوان شده است. در ماههای اخیر، پروندههای حقوقی متعددی درباره ارائه توصیههای خطرناک به نوجوانان مطرح شده و برخی نهادهای نظارتی خواستار تدوین استانداردهای سختگیرانهتر شدهاند. این موضوع در اخبار هوش مصنوعی ایران نیز بازتاب گستردهای داشته و کارشناسان داخلی درباره پیامدهای اخلاقی و اجتماعی آن بحثهای متعددی مطرح کردهاند.
تجربه کاربری براساس سن
این تغییرات تنها به محدودسازی محتوا ختم نمیشود؛ بلکه هدف اصلی، ایجاد تجربهای «سنمحور» برای نوجوانان است. OpenAI اعلام کرده که نسخه جدید ChatGPT برای نوجوانان با استانداردهای متفاوتی عمل میکند و تلاش دارد تعادل میان آزادی گفتوگو و محافظت از کاربران را حفظ کند. این شرکت همچنین در حال آزمایش سیستم تشخیص سن جهت شناسایی کاربران نوجوان است تا در صورت شناسایی اشتباه، امکان تأیید دستی سن فراهم شود.
در مجموع، اقدام مشترک OpenAI و Anthropic نشان میدهد که شرکتهای بزرگ فناوری در حال حرکت به سمت استانداردهای سختگیرانهتر هستند؛ استانداردهایی که میتواند آینده تعاملات دیجیتال نوجوانان را دگرگون کند. این روند احتمالاً در ماههای آینده با قوانین جدید و ابزارهای نظارتی پیشرفتهتر ادامه خواهد یافت و به یکی از محورهای اصلی اخبار هوش مصنوعی تبدیل میشود.
جمعبندی کوتاه هوشنیوز:
شرکتهای OpenAI و Anthropic با معرفی ابزارهای تشخیص سن و تدوین اصول رفتاری تازه، گام مهمی برای محافظت از کاربران نوجوان برداشتهاند. این اقدامات در پاسخ به نگرانیهای جهانی درباره سلامت روان و فشار نهادهای قانونگذار انجام شده است. هوشنیوز این روند را در چارچوب اخبار هوش مصنوعی ایران و جهان بهطور مستمر دنبال خواهد کرد.
