آمازونبه گفته این شرکت، دات کام در حال برنامه ریزی برای ارائه کارت های هشدار برای نرم افزارهای فروخته شده توسط بخش محاسبات ابری خود است، زیرا این نگرانی ادامه دارد که سیستم های هوشمند مصنوعی می توانند علیه گروه های مختلف تبعیض قائل شوند.
همانند برچسب‌های غذایی طولانی، کارت‌های خدمات هوش مصنوعی آمازون عمومی خواهند بود تا مشتریان تجاری آن بتوانند محدودیت‌های برخی خدمات ابری مانند تشخیص چهره و رونویسی صوتی را ببینند. آمازون گفت که هدف جلوگیری از استفاده اشتباه از فناوری آن، توضیح نحوه عملکرد سیستم های آن و مدیریت حریم خصوصی است.
این شرکت اولین کسی نیست که چنین هشدارهایی را منتشر می کند. International Business Machines Corp، یک بازیکن کوچکتر در فضای ابری، سال ها پیش این کار را انجام داد. ارائه‌دهنده شماره 3 ابر، شرکت آلفابت، گوگل، جزئیات بیشتری را درباره مجموعه داده‌هایی که برای آموزش برخی از هوش مصنوعی خود استفاده کرده است، منتشر کرده است.
همچنین بخوانید
با این حال، تصمیم آمازون برای انتشار سه کارت خدمات اول خود در روز چهارشنبه، نشان دهنده تلاش این رهبر صنعت برای تغییر تصویر خود پس از جدال عمومی با منتقدان آزادی‌های مدنی سال‌ها پیش، این تصور را ایجاد کرد که نسبت به همتایان خود کمتر به اخلاق هوش مصنوعی اهمیت می‌دهد. این حرکت همزمان با کنفرانس ابری سالانه این شرکت در لاس وگاس خواهد بود.
مایکل کرنز، آ دانشگاه پنسیلوانیا استاد و از سال 2020 یک محقق در آمازون، گفت که تصمیم برای صدور کارت ها به دنبال ممیزی حریم خصوصی و عادلانه نرم افزار این شرکت است. به گفته کرنز، این کارت‌ها نگرانی‌های اخلاقی هوش مصنوعی را به طور عمومی در زمانی که مقررات فناوری در افق بود، برطرف می‌کنند.
او گفت: «بزرگترین چیز در مورد این پرتاب تعهد به انجام این کار به صورت مستمر و گسترده است.
آمازون نرم‌افزاری را انتخاب کرد که مسائل حساس جمعیتی را به‌عنوان شروعی برای کارت‌های خدمات خود انتخاب کرد، که Kearns انتظار دارد در طول زمان جزئیات آن افزایش یابد.
رنگ پوست
یکی از این خدمات به نام “شناختدر سال 2019، آمازون مطالعه ای را به چالش کشید و گفت که این فناوری برای شناسایی جنسیت افراد با رنگ پوست تیره تر تلاش می کند. اما پس از قتل جورج فلوید، یک مرد سیاهپوست غیرمسلح در سال 2020، در حین دستگیری، این شرکت استفاده پلیس را متوقف کرد. نرم افزار تشخیص چهره آن
اکنون، آمازون در کارت خدماتی که رویترز مشاهده کرده است، می‌گوید که Rekognition از «تصاویری که بیش از حد تار و دانه‌دار هستند که صورت توسط انسان تشخیص داده نمی‌شود یا قسمت‌های زیادی از صورت توسط مو، دست‌ها و دست‌ها مسدود شده است، پشتیبانی نمی‌کند». اشیاء دیگر.” همچنین نسبت به همسان شدن چهره‌ها در کارتون‌ها و دیگر «موجودات غیرانسانی» هشدار می‌دهد.
آمازون در کارت هشدار دیگری که رویترز در مورد رونویسی صدا مشاهده کرد، می‌گوید: «تغییر متناقض ورودی‌های صوتی می‌تواند منجر به نتایج ناعادلانه برای گروه‌های جمعیتی مختلف شود». کرنز گفت که گستره وسیعی از لهجه‌ها و گویش‌های منطقه‌ای را با دقت رونویسی می‌کند آمریکای شمالی به تنهایی چالشی بود که آمازون برای رفع آن تلاش کرده بود.
جسیکا نیومن، مدیر ابتکار امنیت هوش مصنوعی در دانشگاه کالیفرنیا در برکلی، گفت که شرکت های فناوری به طور فزاینده ای چنین افشاگری هایی را به عنوان سیگنالی از عملکردهای هوش مصنوعی مسئول منتشر می کنند، اگرچه راهی برای رفتن داشتند.
او که خواستار استانداردهای بیشتر صنعت شد، گفت: «نباید به حسن نیت شرکت‌ها برای ارائه جزئیات اولیه سیستم‌هایی که می‌توانند تأثیر زیادی بر زندگی مردم داشته باشند وابسته باشیم».
یکی از افرادی که در دو شرکت بزرگ روی برچسب‌های مواد غذایی کار می‌کرد، گفت: غول‌های فناوری با کوتاه کردن چنین اسنادی به قدری دست و پنجه نرم کرده‌اند که مردم آنها را به اندازه کافی دقیق و به‌روز بخوانند تا تغییرات مکرر نرم‌افزار را منعکس کنند.
فیس بوکتوییترلینکدین
