اخبار و مقالات
کاربران زیر ۱۸ سال دیگر اجازه استفاده از پلتفرم Character.AI را نخواهند داشت
مرگ یک نوجوان منجر به اتخاذ یک تصمیم مهم در این پلتفرم شد
خرد و خیال – شکایت از Character.AI پس از خودکشی نوجوان باعث شد تا این پلتفرم هوش مصنوعی محدودیت سنی سخت‌گیرانه اعمال می‌کند. این اقدام، آغازگر موج جدیدی در مقررات ایمنی AI برای کودکان خواهد بود.
به گزارش خرد و خیال به نقل از آسوشیتد پرس، یک زن اهل فلوریدا از پلتفرم چت بات هوش مصنوعی «کاراکتر»(Character.AI) شکایت کرد. علت شکایت وی خودکشی پسر ۱۴ ساله این زن در ماه فوریه اعلام شده است. او می‌گوید که فرزندش به خدمات این شرکت معتاد و عمیقا به چت‌باتی که این شرکت ساخته وابسته شده بود.
پس از این اقدام و پیگیری والدین این نوجوان از دست رفته، شرکت Character.AI ، یکی از پلتفرم‌های مطرح در حوزه‌ی گفت‌وگوهای مبتنی بر هوش مصنوعی، اعلام کرد که از تاریخ ۲۵ نوامبر ۲۰۲۵ استفاده کاربران زیر ۱۸ سال از سرویس‌های این شرکت به‌صورت کامل محدود خواهد شد. این تصمیم پس از طرح شکایتی قضایی علیه شرکت اتخاذ شده است؛ شکایتی که در آن والدین یک نوجوان ادعا کرده‌اند تعامل مداوم فرزندشان با یکی از چت‌ربات‌های این پلتفرم، عامل مؤثری در بروز رفتارهای افسردگی و در نهایت اقدام به خودکشی بوده است.
اطلاعیه رسمی کاراکتر ای آی
براساس اطلاعیه رسمی Character.AI، از این پس ورود افراد زیر سن قانونی به پلتفرم اصلی ممنوع خواهد بود و برای کاربران نوجوان، محدودیت زمانی دو ساعت استفاده در روز در نظر گرفته شده است. همچنین شرکت اعلام کرده در حال طراحی نسخه‌ای جدید و ایمن‌تر از سیستم چت‌ربات خود با محتوای آموزشی و نظارت والدین است تا بتواند نیاز کاربران جوان را در محیطی کنترل‌شده‌تر برطرف کند.
مسئولان Character.AI در بیانیه‌ای تأکید کردند که هدف اصلی این تغییرات، افزایش ایمنی روانی و محافظت از سلامت عاطفی کودکان در مواجهه با فناوری‌های هوش مصنوعی است. آن‌ها همچنین از راه‌اندازی یک آزمایشگاه ایمنی هوش مصنوعی (AI Safety Lab) خبر دادند که مأموریت آن بررسی اثرات اجتماعی و روانی تعامل انسان‌ها، به‌ویژه کودکان، با سیستم‌های هوشمند است.
دوره‌ای تازه در تنظیم مقررات حوزه هوش مصنوعی
کارشناسان معتقدند این اقدام می‌تواند سرآغاز مرحله‌ای تازه در تنظیم مقررات حوزه‌ی هوش مصنوعی باشد؛ مرحله‌ای که در آن شرکت‌های فناوری نه‌تنها به توسعه‌ی عملکرد فنی محصولات خود، بلکه به پیامدهای اخلاقی و انسانی آن‌ها نیز توجه ویژه نشان می‌دهند. بسیاری از نهادهای حمایت از کودکان از تصمیم Character.AI استقبال کرده و آن را گامی مؤثر برای ایجاد محیطی امن‌تر در دنیای دیجیتال دانسته‌اند.
منبع: آسوشیتد پرس