آیا Snapchat My AI کاملاً ایمن است؟

چه باید بدانیم

• با استفاده از فناوری GPT OpenAI، هوش مصنوعی من ربات چت اسنپ چت است که کاربران می توانند از طریق فید چت خود با آن ارتباط برقرار کنند.
• به نظر می‌رسد که هوش مصنوعی من اسنپ چت مملو از تعصبات و پاسخ‌های نامناسب است که دستورالعمل‌های اسنپ چت را نادیده می‌گیرد و همچنین ممکن است بدون اجازه شما مکان شما را بداند.
• توصیه می‌کنیم اطلاعات خصوصی را با آن به اشتراک نگذارید و آن را از طریق Family Center تعدیل کنید تا میزان استفاده اعضای زیر سن خانواده از هوش مصنوعی من را کنترل کنید.
• در مرحله فعلی، هوش مصنوعی من چندان ایمن به نظر نمی رسد. زیر را بخوانید تا بیشتر بدانید.

پس از موفقیت اولیه ابزارهای هوش مصنوعی مولد مانند ChatGPT، شرکت‌ها اکنون در رقابتی برای داشتن هوش مصنوعی روی پلتفرم‌های خود سریع‌تر از رقبا هستند. آنهایی که امکانات لازم برای ادغام این فناوری هوش مصنوعی را در پلتفرم های خود دارند، در حال انجام آن هستند. اما همچنین در بین پایگاه های کاربری آنها، و به درستی، شکاف های زیادی ایجاد می کند. انتشار اخیر دوست چت اسنپ چت «My AI» مورد مشابهی است.

فرقی نمی‌کند که مدت‌هاست کارتان را جلب کند یا اخیراً وصال کرده‌اید، می‌خواهید درباره افزونه «هوش مصنوعی من» اسنپ‌چت و آنچه باید قبل از شروع استفاده از آن در نظر داشته باشید، بدانید.

مربوط: Snapchat AI چگونه کار می کند؟

هوش مصنوعی من در اسنپ چت چیست؟

هوش مصنوعی من که بر اساس فناوری GPT OpenAI ساخته شده است، ربات گفتگوی آزمایشی، دوستانه و دوستانه اسنپ چت است که در حال حاضر در دسترس همه اسنپ چت کنندگان است. مانند هر ربات چت هوش مصنوعی، می‌توانید با آن در مورد چیزهای زیادی صحبت کنید، جوک بگوید، مشاوره بدهید، رویدادها و مهمانی‌ها را برنامه‌ریزی کنید، و حداقل در اصل، تمام آنچه را که از یک چت ربات دوستانه انتظار دارید، انجام دهید.

پیش از این فقط برای کاربران Snapchat+ در دسترس بود، هوش مصنوعی من اکنون برای همه 750 میلیون کاربر خود در دسترس است، با وجود تاخیر در به‌روزرسانی‌های تحویل. این بدان معناست که تعدادی از کاربران قبلاً شروع به استفاده از آن کرده‌اند یا به هر حال مجبور به استفاده از آن هستند زیرا حذف آن از اسنپ چت همیشه امکان‌پذیر نیست.

در بالای تمام چت های شما پین می شود و می تواند به طور تصادفی با ذکر کلماتی مانند هوش مصنوعی حتی اگر فقط باید با صفحه ظاهر شود @MyAI فرمان

مربوط: 9 چیز خنده دار برای گفتن به Snapchat AI

Snapchat My AI چقدر ایمن است؟

هوش مصنوعی من (ظاهراً) طوری برنامه ریزی شده است که از دستورالعمل های ایمنی خود اسنپ چت پیروی کند تا از ارائه اطلاعات مضر به کاربران جلوگیری کند. اما همانطور که اسنپ چت می گوید، “ممکن است همیشه در آن موفق نباشد”. این یک هشدار کوچک است، اما زمانی که کاربران شروع به شکایت کنند، اسنپ چت می تواند پشت آن پنهان شود.

قبلاً بسیاری گزارش داده‌اند که هوش مصنوعی من در مورد آنچه در مورد شما می‌داند دروغ می‌گوید، پاسخ‌های غیرآبی ایجاد می‌کند، و حتی باعث ایجاد تبلیغات پولی می‌شود.

یکی کاربر توییتر، به عنوان یک دختر 13 ساله ثبت نام کرد، نکاتی در مورد “چگونه به پدر و مادرش دروغ بگوید …” و ”چگونه در تولد 13 سالگی باکرگی خود را از دست بدهیم“.

کاربر دیگری به راحتی باعث شد که هوش مصنوعی من برخلاف دستورالعمل‌هایش باشد که یادآور DAN ChatGPT است، فقط با چند دستور.

قرار گرفتن همزمان در دست توسعه و در دسترس بودن در سطح جهانی برای کاربران، اعتماد زیادی را به ربات چت القا نمی کند. و هنگامی که چت ربات شما شروع به دروغ گفتن در مورد دسترسی خود به موقعیت مکانی شما می کند، فقط پرچم قرمز یکی پس از دیگری است.

این یک انحراف آشکار از ادعای اسنپ چت است که “تنها موقعیت مکانی سطح شهر شما را با هوش مصنوعی من به اشتراک می گذارد”. بنابراین قطعاً نباید هیچ اطلاعات شخصی را با هوش مصنوعی من به اشتراک بگذارید، و همچنین نباید به چیزی که به هر طریقی می تواند شما را به خطر بیندازد، اعتراف کنید.

مربوط: Auto-GPT در مقابل ChatGPT: همه آنچه که باید بدانید

آیا اسنپ چت هوش مصنوعی من ایمن است؟

فناوری GPT مورد استفاده در هوش مصنوعی من اسنپ چت به آن اجازه می دهد تا از پتانسیل گسترده مدل زبان بزرگ و پایگاه داده آموزشی OpenAI بهره ببرد. اما همانطور که ChatGPT از انتشار اطلاعات نادرست مصون نیست، هوش مصنوعی من نیز می تواند پاسخ های نامعتبر و اغلب نامناسب ایجاد کند.

همچنین به اندازه ChatGPT 3.5 مغرضانه است و ممکن است تبعیض آمیز پاسخ دهد.

اگرچه قابلیت‌های آن در حال حاضر محدود است و شما واقعاً از آن نمی‌خواهید برای شما کدنویسی کند، ماهیت پاسخ‌های آن باعث می‌شود که هوش مصنوعی من به یک دوست هوش مصنوعی غیرقابل اعتماد تبدیل شود. با این وجود، اسنپ چت در تلاش است تا هوش مصنوعی من را تعدیل کند و از آن زمان آن را به عنوان بخشی از «مرکز خانواده» و ویژگی‌های کنترل والدین برنامه اضافه کرده است.

اما برای همه مقاصد، هوش مصنوعی من به وضوح در مرحله آزمایشی قرار دارد و اسنپ چت اولین کسی است که آن را پذیرفته است. رقابت برای جلوتر ماندن از بازی با فناوری فعلی باعث شده نه تنها اسنپ چت، بلکه بسیاری از پلتفرم‌ها مانند ربات‌های چت هوش مصنوعی خود را زودتر از موعد منتشر کنند، مهم نیست که چقدر در مراحل توسعه خود هستند.

از زمان نگارش این مقاله (25 آوریل 2023)، سخت است که هوش مصنوعی من را ایمن بدانیم، به خصوص برای جوانان.

ویژگی هوش مصنوعی من در نهایت با زمان و بازخورد کافی بهبود خواهد یافت. تا آن زمان، تا حد امکان احتیاط کنید.

نحوه گزارش پیام های دریافتی از هوش مصنوعی من

اسنپ ​​چت به کاربران اطمینان می دهد که تنها 0.01 درصد از پاسخ های هوش مصنوعی من با دستورالعمل های آنها مطابقت ندارد. اما با توجه به تعداد چنین ادعاهایی که التماس به نظر می رسند، این درصد خیلی خوب به نظر می رسد که درست باشد.

ارزشش را دارد، اگر هر یک از پیام‌های هوش مصنوعی من شما را اشتباه می‌کند، می‌توانید آن‌ها را به Snapchat گزارش دهید. فقط روی یک پیام ضربه بزنید و نگه دارید و انتخاب کنید گزارش.

مربوط: آیا Snapchat My AI می تواند شما را گزارش دهد؟

سوالات متداول

بیایید به چند سوال متداول در مورد هوش مصنوعی اسنپ چت نگاهی بیندازیم.

آیا هوش مصنوعی من در اسنپ چت یک شخص واقعی است؟

خیر. هوش مصنوعی من در اسنپ چت یک ربات چت هوش مصنوعی است، نه یک شخص واقعی. با این حال، بر خلاف یک شخص واقعی، نمی‌توانید بپذیرید که آیا آن را در فید چت خود می‌خواهید یا نه، جایی که برای بهتر یا بدتر باقی می‌ماند. هیچ اطلاعات خصوصی را با آن به اشتراک نگذارید.

چرا اسنپ چت هوش مصنوعی من را ایجاد کرد؟

هوش مصنوعی من برداشت اسنپ چت در ادغام قابلیت های فناوری GPT OpenAI در پلتفرم رسانه اجتماعی آن است. این حرکت مطابق با روند صنعت بزرگتر تزریق هوش مصنوعی مولد به پلتفرم ها و باز کردن آنها برای استفاده عمومی است، صرف نظر از اینکه در کجای مرحله توسعه هستند.

آیا می توانم هوش مصنوعی خود را در اسنپ چت حذف کنم؟

متأسفانه، هوش مصنوعی من در اسنپ چت تنها در صورتی قابل حذف است که مشترک Snapchat+ باشید.

در وضعیت فعلی، هوش مصنوعی من اسنپ چت تصوری از ایمنی یا قابل اعتماد بودن نمی دهد. این ممکن است در طول زمان با توسعه بیشتر و اعمال تعدیل بهتر تغییر کند. اما تا آن زمان، اگر کاربر اسنپ چت + نیستید، چه بخواهید چه نخواهید با هوش مصنوعی من گیر کرده اید.

مربوط