عوام دیجیتال مورد حمله قرار گرفته است. ماه گذشته ، یک شبکه هماهنگ از حساب ها ، با استفاده از ابزارهای AI برای تقویت ، داستانهای ساختگی که ادعا می کردند کلاهبرداری رای دهندگان در انتخابات آریزونا است ، پیش از مداخله کننده های واقعیت ، روایت های کاملاً دروغین را به میلیون ها نفر سوق می دهد. این کار ترول های انسانی نبود. این یک عملیات پیشرفته بود که به راحتی مدل های بزرگ زبان را در دسترس قرار می داد ، یک هشدار واضح مبنی بر اینکه خطوط واقعیت آنلاین در حال تار شدن است ، و کمتر کسی مقیاس تهدید را درک می کند. ظهور هوش مصنوعی به طور فزاینده پیشرفته ، همراه با دسترسی به مدل های تولیدی ، در حال ایجاد یک میدان نبرد جدید برای نفوذ است. این نبردی است که در آن ماهیت جوامع دیجیتال باز – اتکا به اصالت ، اعتماد و تعامل ارگانیک – به طور جدی مورد بحث قرار می گیرد. ما در حال ورود به عصری هستیم که متمایز کردن حرکات اصلی مردمی از کمپین های نجومی که توسط هوش مصنوعی تنظیم شده است ، از نظر ظاهری دشوارتر می شود ، و نگهبان های اخلاقی پیرامون تحقیقات در مورد این پدیده ها بسیار ناکافی است. این یک دیستوپی آینده نگر نیست. اکنون ، در زمان واقعی ، با عواقب بالقوه ویرانگر برای فرآیندهای دموکراتیک ، انسجام اجتماعی و حتی احساس جمعی ما از واقعیت آشکار می شود.
از رباتها گرفته تا شخصیت های باورپذیر
سالها ، تهدید دستکاری آنلاین با محوریت رباتها – حساب های خودکار طراحی شده برای تقویت پیام های خاص ، دیدگاه های متضاد باتلاق و به طور کلی مکالمه آنلاین را مختل می کند. این تکرارهای اولیه نسبتاً خام بود و به راحتی با پیام رسانی تکراری ، عدم تعامل ظریف و غالباً خطاهای دستوری درخشان قابل شناسایی بودند. آنها اساساً اسپم دیجیتال بودند. اما بازی تغییر کرده است.
هوش مصنوعی مولد ، به ویژه مدل های بزرگ زبان (LLMS) ، مانع ورود به ایجاد عملیات تأثیرگذاری بسیار پیچیده تر را کاهش داده است. به جای ربات های ساده ، اکنون شاهد ظهور هستیم افراد دیجیتال -حساب های محور AI قادر به ایجاد متن متقاعد کننده انسانی ، درگیر شدن در مکالمات به ظاهر طبیعی و تطبیق رفتار آنها بر اساس زمینه هستند. این شخصیت ها می توانند روابط ایجاد کنند ، به جوامع آنلاین نفوذ کنند و روایات ظریف را بدون ایجاد سوء ظن فوری شکل دهند.
تصور کنید که یک شخصیت هوش مصنوعی به یک زیر مجموعه که به یک نامزد سیاسی خاص اختصاص داده شده است ، به طور ظریف مکالمه را از جزئیات سیاست و به سمت حملات شخصی به مخالفان تغییر می دهد. یا یک شبکه هماهنگ از این شخصیت ها را که اطلاعاتی در مورد تغییرات آب و هوا در چندین سیستم عامل رسانه های اجتماعی منتشر می کند ، تصویر کنید ، و به طور ظریف اعتماد عمومی به اجماع علمی را تضعیف می کند. مقیاس و پیچیدگی این عملیات به سرعت در حال افزایش است و ابزاری برای تشخیص آنها بسیار عقب مانده است. این فقط یک نگرانی دانشگاهی نیست. همان ابزارهایی که برای تجزیه و تحلیل دستکاری استفاده می شوند به طور فعال اسلحه سازی می شوند همین الانبشر
این به سادگی در مورد پخش “اخبار جعلی” نیست. این در مورد فرسایش بنیادهای اساسی اعتماد به نفس جوامع آنلاین است. هنگامی که شما نمی توانید به طور قابل اعتماد تعیین کنید که آیا افرادی که با آنها در تعامل هستید واقعی هستند ، یا اینکه آیا عقایدی که با آنها روبرو می شوید واقعاً برگزار می شود ، کل بافت اجتماعی شروع به پرده برداری می کند.
اخلاق مطالعه سایه ها
جامعه تحقیقاتی نقش مهمی در درک و کاهش خطرات ناشی از عملیات تأثیرگذاری AI در AI دارد. اما مطالعه این پدیده ها مجموعه ای منحصر به فرد از چالش های اخلاقی را ارائه می دهد. بر خلاف تحقیقات سنتی علوم اجتماعی ، جایی که شرکت کنندگان به طور معمول آگاه هستند که مشاهده می شوند ، تحقیقات در مورد دستکاری آنلاین اغلب به درجه ای از مشاهده پنهانی نیاز دارد. محققان باید به جوامعی که در تلاش برای درک آن هستند ، نفوذ کنند ، به طور بالقوه با افرادی که بی خبر هستند بخشی از یک مطالعه هستند.
این سؤالات جدی در مورد رضایت آگاهانه ، حریم خصوصی و پتانسیل آسیب ایجاد می کند. اگر یک محقق یک شخصیت محور AI را مشخص کند ، آیا آنها مسئولیت افشای آن را دارند ، حتی اگر انجام این کار تحقیقات خود را به خطر بیاندازد؟ اگر آنها داده هایی را در مورد افرادی که ناآگاهانه با این شخصیت ها تعامل دارند ، جمع آوری کنند ، چگونه می توانند از حفظ حریم خصوصی خود محافظت کنند؟
علاوه بر این ، عمل بسیار مورد مطالعه این تکنیک ها به طور سهواً در تکثیر آنها نقش دارد. توصیف چگونگی ایجاد و استقرار شخصیت های هوش مصنوعی می تواند بینش ارزشمندی را برای بازیگران مخرب فراهم کند و آنها را قادر می سازد تا تاکتیک های خود را اصلاح کنند و از تشخیص فرار کنند. این “معضل دوگانه استفاده” است-دانش به دست آمده از تحقیقات می تواند برای اهداف مفید و مضر استفاده شود.
بسیاری از محققان کاملاً از این نگرانی های اخلاقی آگاه هستند و در حال توسعه روشهای نوآورانه برای پرداختن به آنها هستند. به عنوان مثال ، تکنیک های حریم خصوصی دیفرانسیل به محققان امکان می دهد داده ها را بدون آشکار کردن هویت کاربران فردی تجزیه و تحلیل کنند. تمرینات تیمی قرمز ، که محققان حملات را برای شناسایی آسیب پذیری ها شبیه سازی می کنند ، می توانند به جوامع کمک کنند تا دفاع خود را تقویت کنند. اما این رویکردها همیشه کافی نیستند و چشم انداز اخلاقی مملو از ابهام است.
پارادوکس منبع باز: شمشیر دو لبه
جنبش منبع باز در رانندگی نوآوری در هوش مصنوعی مؤثر بوده و دسترسی به ابزارها و فناوری های قدرتمند را فراهم می کند که در غیر این صورت در دسترس نیست. اما این باز بودن همچنین آسیب پذیری ها را ایجاد می کند. از همان الگوریتم هایی که می توان برای تشخیص و مقابله با عملیات نفوذ AI محور استفاده کرد ، می تواند برای ایجاد و استقرار آنها نیز استفاده شود.
در دسترس بودن LLMS منبع باز به هر کسی که تخصص فنی کافی دارد ، بدون اینکه به سیستم عامل های تجاری اعتماد کند ، می تواند شخصیت های هوش مصنوعی خود را بسازد. این دموکراتیک سازی هوش مصنوعی ، از بسیاری جهات ، یک پیشرفت مثبت است. اما این بدان معنی است که اکنون ابزارهای دستکاری بیش از گذشته قابل دسترسی تر هستند.
براساس گزارش اخیر موسسه بروکینگز ، محققان استفاده از ALPACA (و مدل های منبع باز) را به تقویت روایات طرفدار روسی پس از حمله به اوکراین پیوند داده اند. این یک شکاف اساسی را برجسته کرد: عدم نظارت قوی برای سوء استفاده در جوامع هوش مصنوعی منبع باز. در حالی که توسعه دهندگان بر دسترسی تأکید دارند ، آنها اغلب فاقد منابع برای پلیس پتانسیل کاربردهای مخرب هستند.
این یک پارادوکس ایجاد می کند: اصولی که زیربنای جنبش منبع باز-شفافیت ، همکاری و دسترسی است-توسط کسانی که به دنبال تضعیف یکپارچگی جوامع دیجیتال باز هستند ، می تواند مورد سوء استفاده قرار گیرد. این چالش در یافتن راه هایی برای مهار قدرت هوش مصنوعی منبع باز برای خوب است ، در حالی که خطرات استفاده از مخرب را کاهش می دهد.
برخی از محققان در حال توسعه هستند تا “AI دفاعی” را توسعه دهند-الگوریتم هایی که برای تشخیص خودکار و ضد دستکاری AI محور طراحی شده اند. این تیم در آزمایشگاه امنیتی هوش مصنوعی استنفورد “Sentinel” را توسعه داد ، الگوریتمی که الگوهای زبانی را برای شناسایی متن تولید شده توسط AI با دقت 85 ٪ از انتشار 2023 مورد تجزیه و تحلیل قرار می دهد. این نشان دهنده پیشرفت فزاینده فناوری تشخیص است ، اگرچه اثربخشی آن به طور مداوم با تکامل تکنیک های نسل هوش مصنوعی به چالش کشیده می شود و به عنوان نشانه ای از مسابقه تسلیحات پویا عمل می کند. اما این تلاش ها هنوز در مراحل اولیه آنها است و احتمالاً مسابقه بین مهاجمان و مدافعان یک دوره طولانی و دشوار است.
افزایش اعتماد مصنوعی
هشدار دهنده ترین جنبه عملیات نفوذ AI فقط گسترش اطلاعات نیست. این فرسایش اعتماد به نفس است. هرچه شخصیت های هوش مصنوعی پیچیده تر می شوند ، آنها قادر به سوء استفاده از آسیب پذیری های روانی ذاتی ما ، ایجاد روابط بر اساس ادعاهای دروغین و دستکاری در احساسات ما هستند.
این امر به ویژه در زمینه جوامع آنلاین نگران کننده است ، جایی که اعتماد اغلب ارز تعامل است. وقتی به یک انجمن یا یک گروه رسانه های اجتماعی می پیوندیم ، فرض می کنیم افرادی که با آنها در تعامل هستیم ، کسانی هستند که می گویند آنها هستند و نظرات آنها واقعاً برگزار می شود. اما چه اتفاقی می افتد که این فرضیات به طور سیستماتیک تضعیف شوند؟
ظهور “اعتماد مصنوعی” – اعتماد بنا بر روابط مصنوعی و اجماع تولید شده – تهدید می کند که اساساً پویایی تعامل آنلاین را تغییر می دهد. Personas AI برای تقلید از اصل متقابل طراحی شده است ، و نعمتهای کوچک و تعامل مداوم را برای ایجاد اعتماد قبل از معرفی ظریف و پیام های دستکاری ارائه می دهد. اگر نتوانیم به افرادی که با آنها صحبت می کنیم اعتماد کنیم یا اطلاعاتی که دریافت می کنیم ، کل قرارداد اجتماعی عوام دیجیتال شروع به فروپاشی می کند.
این پیامدهای بسیار فراتر از قلمرو جوامع آنلاین است. در دنیایی که هوش مصنوعی می تواند افراد را متقاعد کند و افراد را جعل کند و شواهد را به وجود آورد ، مفهوم واقعیت عینی قابل مذاکره می شود. این یک چشم انداز عمیقاً نگران کننده است ، و مورد توجه فوری است.
پیمایش در آبهای غیرقانونی
چارچوب های قانونی و نظارتی حاکم بر هوش مصنوعی هنوز هم ناکافی است. قوانین موجود برای مقابله با کلاهبرداری و اطلاعاتی آنلاین که اغلب برای مقابله با چالش های منحصر به فرد ناشی از عملیات تأثیرگذاری AI-محور ، مجهز هستند. نسبت دادن مسئولیت فعالیت مخرب به ویژه دشوار است ، زیرا عاملان اغلب می توانند به صورت ناشناس و در حوزه های قضایی متعدد عمل کنند.
سناتور مارک وارنر در حال حاضر به دنبال قانونی است که به توسعه دهندگان هوش مصنوعی موظف شود خطرات احتمالی فن آوری های خود را فاش کند و حفاظت ها را برای جلوگیری از سوء استفاده از آنها انجام دهد. “قانون پاسخگویی هوش مصنوعی” پیشنهادی با مخالفت قابل توجهی از لابیست های فنی روبرو است که معتقدند این نوآوری را خنثی می کند. قانون خدمات دیجیتالی اتحادیه اروپا (DSA) یک تلاش بحث برانگیز برای پرداختن به محتوای غیرقانونی و اطلاعات غیرقانونی است و تعهدات جدیدی را در سیستم عامل های آنلاین تحمیل می کند ، اما اثربخشی آن هنوز دیده نمی شود.
با توجه به اینکه تنظیم کننده ها برای همگام شدن تلاش می کنند ، بار حفاظت از گفتمان آنلاین به طور فزاینده ای بر خود جوامع می افتد. برای رفع این چالش جهانی ، یک تلاش بین المللی جامع تر و هماهنگ تر لازم است.
مقاومت در برابر ساخت و ساز در عوام دیجیتال
در حالی که تشخیص و مقابله با عملیات نفوذ AI محور بسیار مهم است ، کافی نیست. ما همچنین باید در عوام دیجیتال مقاومت کنیم و فرهنگ تفکر انتقادی ، سواد رسانه ای و مشارکت آگاهانه را تقویت کنیم.
این امر نیاز به یک رویکرد چند وجهی دارد که شامل آموزش ، فناوری و جامعه سازی است. مدارس و دانشگاه ها باید سواد رسانه ای را در برنامه های درسی خود بگنجانند و به دانش آموزان آموزش می دهند که چگونه اطلاعات را به صورت انتقادی ارزیابی کنند و تعصبات احتمالی را شناسایی کنند. سیستم عامل های رسانه های اجتماعی باید روی ابزارها و ویژگی هایی که به کاربران کمک می کند بین محتوای اصلی و جعل های تولید شده AI تشخیص دهند ، سرمایه گذاری کنند. و جوامع آنلاین نیاز به ایجاد هنجارها و شیوه هایی دارند که باعث شفافیت ، پاسخگویی و گفتگوی محترمانه می شود.
گروه “Debunk اتحادیه اروپا” نقش مهمی در شناسایی و دفع روایت های دروغین مربوط به انتخابات اخیر اروپا ایفا کرده است. اطلاعات بیشتر و گزارشگری در وب سایت Debunk EU در دسترس است.
سرانجام ، دفاع در برابر عملیات تأثیرگذار AI-محور نه تنها در راه حل های فناوری بلکه در هوش جمعی و هوشیاری جامعه آنلاین نهفته است. ما باید به مصرف کنندگان اطلاعاتی باهوش تر تبدیل شویم ، نسبت به ادعاهایی که خیلی خوب به نظر می رسند ، تردید بیشتری داشته باشیم و مایل به به چالش کشیدن روایاتی باشند که با ارزشهای ما هماهنگ نباشند.
پیمایش دنیای واقعیت های مصنوعی
تنش بین نوآوری تکنولوژیکی و تحقیقات اخلاقی در قلمرو تأثیر AI-Drive فقط یک مشکل فنی نیست. این یک چالش اساسی برای درک ما از معنای انسان بودن در عصر دیجیتال است. از آنجا که هوش مصنوعی به طور فزاینده ای در زندگی ما ادغام می شود و خطوط بین واقعی و مصنوعی را محو می کند ، باید با حقیقت ناراحت کننده ای روبرو شویم که واقعیت های اجتماعی ما دیگر کاملاً خودمان نیست.
آینده اتصال به توانایی ما در حرکت در این چشم انداز جدید با خرد ، دوراندیشی و تعهد به حفظ اصول باز بودن ، اعتماد و اصالت بستگی دارد. ما باید چارچوب های اخلاقی جدیدی را برای تحقیق ، مکانیسم های نظارتی جدید برای هوش مصنوعی و هنجارهای اجتماعی جدید برای تعامل آنلاین توسعه دهیم.
شبح در دستگاه از بین نمی رود. سؤال این نیست که آیا می توانیم جلوی آن را بگیریم ، اما آیا می توانیم یاد بگیریم که با واقعیتی زندگی کنیم که اعتماد یک کمبود باشد ، و اصالت یک عملکرد است. عوام دیجیتال ، زمانی که یک چراغ مبادله باز است ، اکنون یک قلمرو مورد بحث است. نبرد برای روحش آغاز شده است.
