“اپل رسماً کار روی هوش مصنوعی سیری رو به تاخیر انداخته (میگن قراره تو سال آینده بیاد). یه برنامه‌نویس فکر می‌کنه میدونه دلیلش چیه – هرچی سیری باهوش‌تر و شخصی‌تر بشه، اگه یه وقت گند بزنه، خطرش بیشتر میشه.

سیمون ویلیسون، برنامه‌نویس ابزار تحلیل داده Dataset، میگه مشکل از Prompt Injection هست. هوش مصنوعی‌ها معمولاً توسط شرکت‌هایی که ساختنشون یه سری محدودیت دارن و یه سری قوانین براشون تعیین می‌کنن. اما میشه با حرف زدن و گول زدن هوش مصنوعی، این قوانین رو دور زد و به اصطلاح هوش مصنوعی رو “جیلبریک” کرد. این کار با یه سری دستورهای خاص به اسم “Prompt Injection” انجام میشه.

مثلاً، یه هوش مصنوعی ممکنه دستور داشته باشه که به سوال‌های مربوط به انجام یه کار غیرقانونی جواب نده. اما اگه از هوش مصنوعی بخوایم یه شعر درباره دزدیدن ماشین برامون بنویسه چی؟ شعر نوشتن که غیرقانونی نیست، درسته؟

این یه مشکلیه که همه شرکت‌هایی که چت‌بات هوش مصنوعی دارن باهاش روبرو هستن و تا حدودی هم تونستن جیلبریک‌های خیلی تابلو رو بلاک کنن، اما هنوز کامل حل نشده. بدتر از اون، جیلبریک کردن سیری ممکنه عواقب خیلی بدتری از بقیه چت‌بات‌ها داشته باشه، چون سیری خیلی چیزها درباره شما میدونه و خیلی کارها براتون میتونه انجام بده. ژاکلین روی، سخنگوی اپل، سیری رو اینجوری توصیف کرده:

“ما همچنین روی یه سیری شخصی‌تر کار می‌کنیم که بیشتر از گذشته از اطلاعات شخصی شما آگاه باشه و بتونه کارهایی رو داخل برنامه‌ها و بین برنامه‌ها براتون انجام بده.”

اپل بدون شک یه سری قوانین گذاشته که سیری به اشتباه اطلاعات شخصی شما رو فاش نکنه. اما اگه یه Prompt Injection بتونه کاری کنه که سیری این کار رو بکنه چی؟ “توانایی انجام کارها براتون” هم میتونه مورد سوء استفاده قرار بگیره. برای یه شرکتی که به اندازه اپل به حریم خصوصی و امنیت اهمیت میده، خیلی مهمه که مطمئن بشه سیری جیلبریک نمیشه. و ظاهراً این کار یه کم طول میکشه.”

منبع: gsmarena