اپل اعلام کرده است که ارتقای هوش مصنوعی سیری، دستیار صوتی خود، را به سال آینده موکول کرده است. یک توسعهدهنده معتقد است که دلیل این تاخیر، نگرانی از آسیبپذیریهای امنیتی است. هرچه سیری هوشمندتر و شخصیتر شود، در صورت بروز مشکل، خطر بیشتری ایجاد میکند.
سایمون ویلیسون، توسعهدهنده ابزار تحلیل داده Dataset، به «تزریق پرامپت» اشاره میکند. هوشهای مصنوعی معمولاً توسط شرکتهای سازنده محدود میشوند، اما با فریب دادن آنها میتوان این محدودیتها را دور زد. به این کار «جیلبریک» میگویند.
فرض کنید به یک هوش مصنوعی دستور داده شده است که به سوالات غیرقانونی پاسخ ندهد. اما اگر از آن بخواهید شعری درباره سرقت خودرو بنویسد چه؟ نوشتن شعر که غیرقانونی نیست.
این مشکلی است که تمام شرکتهای سازنده چتباتهای هوش مصنوعی با آن مواجه هستند. هرچند روشهایی برای مقابله با جیلبریکهای ساده پیدا کردهاند، اما هنوز راه حل قطعی وجود ندارد. در مورد سیری، خطر جیلبریک بسیار جدیتر است، زیرا اطلاعات شخصی زیادی درباره کاربر دارد و میتواند اقدامات مختلفی را انجام دهد.
ژاکلین روی، سخنگوی اپل، درباره سیری میگوید: «ما در حال کار بر روی سیری شخصیسازی شدهتری هستیم که اطلاعات بیشتری درباره کاربر دارد و میتواند در برنامههای مختلف، کارهایی را برای او انجام دهد.»
مطمئناً اپل برای جلوگیری از افشای اطلاعات خصوصی کاربر توسط سیری، قوانینی را وضع کرده است. اما اگر با تزریق پرامپت بتوان این قوانین را دور زد چه؟ توانایی سیری در انجام کارها نیز میتواند مورد سوء استفاده قرار گیرد. به همین دلیل، اپل باید اطمینان حاصل کند که سیری قابل جیلبریک نیست. ظاهراً این کار زمان زیادی خواهد برد.
