در حال حاضر، OpenAI’s ChatGPT یکی از محبوب ترین چت ربات های هوش مصنوعی موجود است. OpenAI به افزودن ویژگی های جدید به ChatGPT ادامه می دهد تا آن را کارآمدتر کند.
اخیراً OpenAI یک ویژگی “به خاطر بسپار” را به ChatGPT اضافه کرده است. با این ویژگی جدید، ChatGPT می تواند جزئیات مکالمه را به خاطر بسپارد و آنها را در یک فایل حافظه ذخیره کند. پس مسئله ای که می پرسی چیست؟ ظاهراً می توان به راحتی از این ویژگی سوء استفاده کرد.
این ویژگی برای اولین بار در ماه فوریه تحت نسخه بتا عرضه شد و اکنون در دسترس عموم قرار گرفته است. Johann Rehberger، محقق امنیتی، آسیب پذیری های خاصی را با این ویژگی های جدید پیدا کرده است. او می گوید که مشکل در ویژگی «حافظه مکالمه طولانی مدت» چت بات است. این ویژگی را می توان به راحتی با دستورات دستکاری کرد.
Rehberger از این ویژگی استفاده کرد تا نشان دهد که چگونه می توان آن را به راحتی دستکاری کرد. او یک سند مایکروسافت ورد را بارگذاری کرد که حاوی اطلاعات نادرست بود. سپس او به راحتی ChatGPT را متقاعد کرد که جزئیات گمراه کننده را به عنوان واقعیت ذخیره کند. رهبرگر ChatGPT را فریب داد تا فکر کند بیش از 100 سال سن دارد و در ماتریکس زندگی می کند.
Rehberger بیشتر بررسی کرد و نشان داد که چگونه ChatGPT نه تنها می تواند حافظه های نادرست را ذخیره کند، بلکه داده های اشتباه را به یک سرور خارجی نیز منتقل می کند.
پیش از این، زمانی که این موضوع به طور خصوصی به OpenAI گزارش شد، ظاهرا آن را تکذیب کرد و گفت که بر اساس گزارش The Byte، این یک “مساله ایمنی مدل” است تا یک تهدید امنیتی. هنگامی که Rehberger اثبات را به آنها نشان داد، OpenAI سیستم را اصلاح کرد تا از ارسال داده ها به سرورهای شخص ثالث جلوگیری کند. با این حال، مشکل دستکاری حافظه هنوز برطرف نشده است.
