سمت تاریک درک فناوری بزرگ از روانشناسی انسان

شرکت های بزرگ فناوری مانند فیس بوک، گوگل و آمازون به دلیل مهارت خود در استفاده از داده های کاربر برای بهبود محصولات و خدمات خود شناخته شده اند. با این حال، دانش آنها از روانشناسی انسان جنبه تاریکی دارد که اغلب نادیده گرفته می شود.

مثلا، الگوریتم فید خبری فیسبوک طراحی شده است تا کاربران را با نشان دادن محتوایی که احتمالاً با آن تعامل دارند، درگیر کند. این می‌تواند منجر به پدیده‌ای به نام «حفظه‌های پژواک» شود، که در آن کاربران تنها در معرض دیدگاه‌هایی قرار می‌گیرند که با باورهای موجود آنها همسو هستند. این می‌تواند سوگیری‌ها را تقویت کند و در نظر گرفتن دیدگاه‌های جایگزین برای افراد دشوارتر شود.

به همین ترتیب، الگوریتم جستجوی گوگل برای ارائه نتایج جستجوی شخصی به کاربران بر اساس تاریخچه مرور و سایر عوامل طراحی شده است. در حالی که این می‌تواند یافتن آنچه را که به دنبال آن هستند برای افراد آسان‌تر کند، همچنین می‌تواند یک «حباب فیلتر» ایجاد کند که در آن کاربران فقط در معرض اطلاعاتی هستند که باورهای موجود آنها را تأیید می‌کند.

توصیه های محصول آمازون بر اساس داده‌های مربوط به خریدهای گذشته و سابقه مرور کاربران است. در حالی که این امر می‌تواند یافتن محصولاتی را که ممکن است به آن‌ها علاقه مند باشند برای افراد آسان‌تر کند، اما می‌تواند حس اعتیاد و خرید ناگهانی را نیز ایجاد کند، زیرا کاربران دائماً با پیشنهادات برای محصولات جدید بمباران می‌شوند.

مشکل این رویکردها این است که همیشه به نفع کاربران نیستند. در حالی که آنها ممکن است یافتن آنچه را که به دنبال آن هستند برای افراد آسان تر کنند، همچنین می توانند تعصبات را تقویت کنند، قرار گرفتن در معرض دیدگاه های جایگزین را محدود کنند و رفتارهای اعتیادآور ایجاد کنند. به طور خلاصه، آنها می توانند برای سلامت روان و رفاه کاربران مضر باشند.

ما به عنوان توسعه دهندگان و فناوران، وظیفه داریم از این مسائل آگاه باشیم و محصولات و خدماتی را ایجاد کنیم که نه تنها موثر، بلکه اخلاقی و مسئولیت پذیر. این بدان معناست که مراقب راه‌هایی باشیم که محصولات ما می‌توانند بر سلامت روان و رفاه کاربران تأثیر بگذارند و اقداماتی را برای کاهش این خطرات انجام دهیم.

به عنوان مثال، می‌توانیم الگوریتم‌هایی طراحی کنیم که شفاف‌تر و پاسخگوتر باشند، به طوری که کاربران بتوانند بهتر بفهمند که چرا محتوا یا توصیه‌های خاصی به آنها نشان داده می‌شود. همچنین می‌توانیم به کاربران کنترل بیشتری بر روی داده‌هایشان و نحوه استفاده از آن‌ها ارائه کنیم تا بتوانند در مورد فعالیت‌های آنلاین خود تصمیمات آگاهانه بگیرند.

در نهایت، کلید ایجاد تعادل بین مزایای شخصی سازی و خطرات اعتیاد و سوگیری است. با انجام این کار، ما می توانیم محصولات و خدماتی ایجاد کنیم که نه تنها نیازهای کاربران را برآورده می کند، بلکه به استقلال و رفاه آنها نیز احترام می گذارد.