پیشرفت فناوری تولید و شبیه‌سازی صدا باعث شده هوش مصنوعی بتواند نه‌تنها صدای انسان، بلکه لهجه‌ها و گویش‌های محلی را نیز با دقت قابل‌توجهی بازسازی کند. پژوهشگران هشدار می‌دهند این قابلیت می‌تواند تشخیص تماس‌های جعلی را دشوارتر کرده و به ابزار تازه‌ای برای کلاهبرداری تلفنی تبدیل شود.
چرا تقلید لهجه، خطر کلاهبرداری را بیشتر می‌کند؟
بسیاری از افراد هنگام دریافت تماس تلفنی، آشنا بودن صدا یا نحوه صحبت کردن فرد را به‌عنوان نشانه‌ای از واقعی بودن تماس در نظر می‌گیرند. اما پژوهش‌های جدید نشان می‌دهد این فرض دیگر قابل اتکا نیست؛ زیرا مدل‌های هوش مصنوعی می‌توانند ویژگی‌های بسیار خاص گفتار، از جمله لهجه‌های منطقه‌ای را نیز بازتولید کنند.
در یکی از مطالعات انجام‌شده توسط پژوهشگران دانشگاه Abertay، توانایی هوش مصنوعی برای تقلید از Dundonian Scots، گویشی محلی در شهر داندی اسکاتلند، بررسی شد. نتایج نشان داد بسیاری از شنوندگان در تشخیص صدای مصنوعی از صدای واقعی با مشکل مواجه شدند و زمانی که صدا با گویش محلی صحبت می‌کرد، احتمال فریب خوردن آنها بیشتر بود.
مغز انسان به صدای آشنا اعتماد می‌کند
یکی از دلایل اصلی موفقیت این روش، واکنش طبیعی انسان به صداهای آشناست. وقتی فردی با لهجه‌ای کاملاً محلی و آشنا صحبت می‌کند، شنونده ممکن است ناخودآگاه تصور کند با یک انسان واقعی روبه‌رو است.
پژوهش منتشرشده در Journal of Cybersecurity نیز نشان داده است که آگاهی دادن به افراد درباره توانایی هوش مصنوعی در تقلید واقعی لهجه‌ها و گویش‌ها می‌تواند میزان اعتماد اشتباه آنها به صداهای مصنوعی را کاهش دهد. نکته مهم این است که صرفاً هشدار دادن درباره «کلاهبرداری با هوش مصنوعی» به اندازه توضیح دادن درباره توانایی واقعی این فناوری اثرگذار نبوده است.
کلاهبرداران چگونه می‌توانند از این فناوری استفاده کنند؟
در یک سناریوی احتمالی، کلاهبردار می‌تواند صدایی مصنوعی ایجاد کند که علاوه بر شباهت به یک فرد خاص، لهجه منطقه‌ای او را نیز تقلید کند. در چنین شرایطی، تماس جعلی ممکن است بسیار طبیعی‌تر از نمونه‌های قدیمی تماس‌های خودکار یا صداهای رباتیک به نظر برسد.
این مسئله می‌تواند در تماس‌هایی که فرد تماس‌گیرنده خود را یکی از اعضای خانواده، بانک، شرکت یا یک سازمان معتبر معرفی می‌کند، خطرناک باشد. نهادهای نظارتی نیز پیش‌تر درباره سوءاستفاده از فناوری شبیه‌سازی صدا برای جعل هویت و کلاهبرداری هشدار داده‌اند.
چگونه در برابر تماس‌های صوتی جعلی هوش مصنوعی مراقب باشیم؟
مهم‌ترین نکته این است که صدای آشنا دیگر به‌تنهایی مدرک کافی برای تشخیص هویت تماس‌گیرنده نیست. اگر تماس شامل درخواست غیرعادی، انتقال پول، ارائه رمز عبور یا اطلاعات حساس بود، بهتر است:
- تماس را قطع کنید و از طریق شماره‌ای که از قبل در اختیار دارید با فرد یا سازمان موردنظر تماس بگیرید.
- اطلاعات بانکی، رمز عبور و کدهای تأیید را در تماس‌های ورودی اعلام نکنید.
- در صورت تماس اضطراری از طرف یکی از اعضای خانواده، هویت او را از طریق یک کانال ارتباطی دیگر بررسی کنید.
- به محتوای درخواست و شرایط تماس توجه کنید، نه فقط به صدای فرد.
- در صورت مشکوک بودن تماس، فرض را بر واقعی بودن صدای طرف مقابل نگذارید.
پژوهشگران تأکید می‌کنند افزایش آگاهی عمومی درباره توانایی‌های واقعی هوش مصنوعی می‌تواند به اندازه ابزارهای فنی در کاهش موفقیت این نوع کلاهبرداری‌ها مؤثر باشد.
جمع‌بندی
هوش مصنوعی حالا می‌تواند صداهای مصنوعی را با لهجه‌ها و گویش‌های منطقه‌ای بسیار طبیعی تولید کند؛ قابلیتی که اگرچه کاربردهای مشروع زیادی دارد، می‌تواند تشخیص تماس‌های کلاهبرداری را نیز دشوارتر کند. بنابراین، در آینده اعتماد به صدای آشنا به‌تنهایی کافی نخواهد بود و تأیید هویت از یک مسیر ارتباطی مستقل اهمیت بیشتری پیدا می‌کند.
منابع
- Mezha
- Abertay University
- Journal of Cybersecurity
- Federal Trade Commission
