خلافهبهدلیل باگ هوش مصنوعی، دیسکورد ۸۲۰۰ حساب کاربری را به اشتباه مسدود کرد
دیسکورد مجبور شد بیش از ۸۲۰۰ حساب کاربری را که به دلیل یک خطای سیستمی به اشتباه به اشتراکگذاری محتوای جنسی کودکان (CSAM) متهم شده بودند، لغو ممنوعیت کند. ریشه مشکل یک «مثبت کاذب» در سیستم تعدیل هوش مصنوعی بود که تصاویر شبکهمانند (مانند اسکرینشاتهای اینوینتوری ماینکرافت، صفحهگستردهها و پسزمینههای مربعی) را به اشتباه به عنوان محتوای غیرقانونی شناسایی و حسابها را به طور دائم مسدود میکرد.
این مسئله از ماه مه ۲۰۲۴ وجود داشته، اما در هفتههای اخیر با گزارش گسترده کاربران رو به熾 شد. دیسکورد در بیانیهای اعلام کرد که سیستمهای ایمنی برای تطابق با محتوای شناختهشده مخرب طراحی شدهاند، اما یک باگ ناشی از شباهت بصری باعث پرچمگذاری نادرست شده است. شرکت تاکید کرد که سیاست آن «معلقسازی موقت برای بررسی انسانی» است، نه مسدودیت فوری؛ اما یک خطای فنی مانع از بازگرداندن دسترسی کاربران پس از تایید بیگناهی آنان شده بود.
کاربران واکنش دیسکورد را ناکافی و توضیحات «باگ» را توجیهی برای ناکارآمدی سیستم تلقی کردند. این رویداد همزمان با چالشهای دیگر ماینکرافت رخ داد، از جمله نامگذاری سرورهای خصوصی به عنوان «بازار سیاه» توسط ESA و تغییرات مدیریتی در استودیو موجینگ.
Discord مجبور شد بیش از 8000 کاربر را لغو ممنوعیت کند، زیرا هزاران نفر گزارش دادند که دسترسی به حساب های خود را به دلیل پست کردن CSAM صریح از دست داده اند.
این ممنوعیتها در واقع پرچمهای «مثبت کاذب» بودند، که بسیاری از آنها از اسکرینشاتهای Minecraft سرچشمه میگرفتند، و Discord به سرعت برای رفع انسداد افراد آسیبدیده حرکت کرد و بیانیهای درباره این فرآیند منتشر کرد.
Discord به سرعت به حذف 8200 کاربر پس از علامت گذاری نادرست حساب ها به عنوان ارسال CSAM می رود
دیروز، کاربر توییتر Tall Cow چیزی را آشکار کرد که آنها آن را “یک آسیب پذیری در تعدیل هوش مصنوعی Discord” نامیدند.
آنها در رابطه با هزاران نفری که حسابهایشان را مسدود کردهاند، میگویند: «در حال حاضر یک آسیبپذیری در تعدیل هوش مصنوعی Discord وجود دارد که تمام تصاویر شبکهای مربعی مانند صفحهگسترده، صفحه شطرنج، موجودیهای Minecraft، پسزمینههای شفاف سفید و خاکستری… را به عنوان CSAM شناسایی میکند و حساب شما را برای همیشه مسدود میکند.
از آنجایی که سیستم موجودی Minecraft مبتنی بر شبکه است، بسیاری از کسانی که تصاویر اقلام خود را با دوستان خود به اشتراک میگذاشتند پرچمگذاری و ممنوع شدند.
طبیعتاً دیسکورد در مواجهه با چنین انتقادهای آنلاین از سوی افراد ممنوعه مجبور به پاسخگویی شد.
این شرکت گفت: “این آخر هفته، سیستم های ایمنی ما به اشتباه حدود 200 حساب کاربری را فعال و مسدود کردند. همه افراد تحت تاثیر قرار گرفته اند.” “سیستمهای ما محتوا را با تطبیق آن با مطالب مضر شناختهشده پرچمگذاری میکنند. این نوع تطابق شباهت میتواند نتایج مثبت کاذب ایجاد کند، به همین دلیل است که یکی از اعضای تیم اعتماد و ایمنی ما همیشه محتوای پرچمگذاریشده را قبل از انجام هر اقدامی بررسی میکند. رفتار مورد نظر این است که آپلودها را در طول آن بازبینی موقتاً متوقف کنیم، نه مسدود کردن حساب.
“ما یک اشکالی داشتیم که این مورد دومی را ایجاد کرد. وقتی کارکنان ما آن حسابها را بررسی و پاک کردند، همان باگ مانع از لغو خودکار ممنوعیت شد، بنابراین در جای خود باقی ماند. حدود 8200 حساب از ماه مه 2026 تا هفته گذشته تحت تأثیر قرار گرفتند، به علاوه 200 حساب دیگر در آخر هفته گذشته. ما هرکسی را که تحت تأثیر این مشکل قرار گرفتهاند لغو ممنوعیت کردهایم. دوباره، و به طور گسترده تر، برای اطمینان از اینکه سیستم های ایمنی ما افرادی را که هیچ اشتباهی مرتکب نشده اند، مجازات نمی کنند.”
کاربران حتی پس از بیانیه Discord به گزارش ممنوعیتها ادامه دادند و بسیاری از پاسخ ناامید شدند و خاطرنشان کردند که این شرکت که آن را باگ نامیده بود، ناصادقانه بود.
Minecraft در دو هفته گذشته خود را در کانون مسائل متعددی قرار داده است. هفته گذشته، ESA سرورهای خصوصی Minecraft را “غیرقانونی” و “بازار سیاه” اعلام کرد و همین دیروز، پس از اعلام بازسازی عظیم Xbox، Asha Sharma مدیر عامل شرکت فاش کرد که توسعه دهنده Mojang مستقیماً به او گزارش می دهد.
- منتشر شد
-
18 نوامبر 2011
- ESRB
-
E10+ برای همه 10+ به دلیل خشونت فانتزی
