اینستاگرام گفتوگوهای پرخطر نوجوانان با هوش مصنوعی را به والدین گزارش میدهد

اینستاگرام گفت‌وگوهای پرخطر هوش مصنوعی را به والدین گزارش می‌دهد

متا قابلیت جدیدی را برای اطلاعرسانی خودکار به والدین درباره گفتوگوهای پرخطر نوجوانان با Meta AI معرفی کرده است. در صورت شناسایی مباحث مرتبط با خودکشی یا خودآزاری، سیستم پس از بررسی انسانی، هشدارهایی را از طریق اینستاگرام یا پیامک برای والدین ارسال میکند.

به گزارش خبرنگار فناوری ما، این اقدام که در چارچوب بهروزرسانیهای گسترده متا برای افزایش ایمنی نوجوانان در فضای مجازی انجام شده، با همکاری والدین و متخصصان حوزه سلامت روان طراحی شده است. این قابلیت در حال حاضر برای کاربران آمریکا، بریتانیا، کانادا و استرالیا فعال شده و قرار است تا پایان سال جاری میلادی به صورت جهانی در دسترس قرار گیرد.

عملکرد دقیق سیستم هشدار چگونه است؟

بر اساس اعلام متا، این سیستم با استفاده از هوش مصنوعی تخصصی، گفتوگوهای نوجوانان با Meta AI را رصد میکند. در صورت مشاهده نشانههایی از خودآزاری یا افکار خودکشی، حتی اگر این اشارهها غیرمستقیم و ظریف باشند، مراحل زیر طی میشود:

اینستاگرام گفت‌وگوهای پرخطر هوش مصنوعی را به والدین گزارش می‌دهد
اینستاگرام گفت‌وگوهای پرخطر هوش مصنوعی را به والدین گزارش می‌دهد
  • بررسی انسانی: تمامی مکالمات flagged شده توسط هوش مصنوعی، پیش از ارسال هرگونه هشدار، توسط نیروی انسانی به صورت دستی بررسی میشوند تا از صحت تشخیص اطمینان حاصل شود.
  • ارسال هشدار محتاطانه: در مواردی که قصد و نیت نوجوان مبهم باشد، متا اعلام کرده است که رویکردی محتاطانه در پیش گرفته و هشدار را ارسال میکند. این شرکت اذعان دارد که این روش ممکن است گاهی به هشدارهای اشتباه منجر شود، اما آن را نقطه شروع مناسبی برای حفظ ایمنی میداند.
  • محتوای هشدار: هشدارها از طریق اینستاگرام یا پیامک (SMS) برای والدینی که قابلیت نظارت والدین را فعال کردهاند، ارسال میشود و شامل منابع و توصیههای تخصصی برای کمک به والدین در گفتوگو با نوجوانانشان است.

گام بعدی متا؛ تماس با خدمات اورژانس

متا همچنین اعلام کرده است که در حال توسعه ابزارهایی برای تماس با خدمات اورژانس در صورت تشخیص «خطر قریب‌الوقوع خودکشی» در گفتوگوهای کاربران (چه نوجوان و چه بزرگسال) با Meta AI است. این اقدام بر اساس تجربه قبلی متا در ارجاع بیش از ۱۹,۰۰۰ مورد مشابه در سال گذشته از طریق پستهای فیسبوک و اینستاگرام به اورژانس، طراحی شده است.

محدودیتها و چالشهای پیشرو

کارشناسان و فعالان حوزه کودک، با وجود استقبال از این اقدام، بر چند نکته کلیدی تأکید دارند:

  • این ابزار تنها یک مکمل است و نمیتواند جایگزین نظارت و ارتباط مستمر والدین با فرزندانشان شود.
  • نوجوانان ممکن است با استفاده از تاریخ تولدهای جعلی یا روشهای دیگر، سعی در دور زدن این سیستمها داشته باشند.
  • مقررات سختگیرانهتر دولتی، مانند لایحه «قانون رسانههای اجتماعی ایمن» که در کانادا معرفی شده، برای ایجاد یک چارچوب قانونی جامعتر در این زمینه ضروری به نظر میرسد.

گفتنی است با توجه به افزایش استفاده نوجوانان از ابزارهای هوش مصنوعی و نگرانیهای فزاینده درباره تأثیرات آن بر سلامت روان، این حرکت متا گامی در راستای پاسخگویی به مسئولیتهای اجتماعی و کاهش آسیبهای احتمالی محسوب میشود.

مجله اینترنتی جی جا

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *