یک پژوهش دریافت که [متن‌های] خلاصه‌شده با هوش مصنوعی می‌توانند حافظه افرادی را که این متن‌ها به آن‌ها نشان داده می‌شوند، تحریف کنند.

پژوهش جدید نشان می‌دهد که سامانه‌های هوش مصنوعی نه‌تنها معمولا مطالبی را که به آن‌ها نشان داده می‌شود به‌اشتباه خلاصه می‌کنند، بلکه این اشتباه‌ها می‌توانند افراد را فریب دهند و باعث شوند اطلاعات نادرستی داشته باشند.

این پژوهش در بحبوحه افزایش استفاده از متن‌های خلاصه‌شده با هوش مصنوعی در همه‌چیز، از متون پیاده‌سازی‌شده جلسات گرفته تا موقعیت‌های حساسی مانند تحلیل تصاویر پلیس، انجام شد. پژوهشگران مرکز پزشکی دانشگاه جورج‌تاون بررسی کردند که این متن‌های خلاصه‌شده چگونه می‌توانند درک افراد را از حقیقت تغییر دهند.

پژوهشگران ابتدا بررسی کردند که سامانه‌های هوش مصنوعی در عمل تا چه اندازه اطلاعات را خوب خلاصه می‌کنند و دریافتند که این سامانه‌ها بارها اطلاعات نادرست تولید کرده‌اند. رایج‌ترین خطایی که پیدا شد، این بود که متن‌های خلاصه‌شده جزئیات مهم مطلبی را که خلاصه می‌کردند، حذف می‌کردند و پژوهشگران دریافتند که در پرامپت‌ها و مدل‌های مختلف، این سامانه ۵۱.۶ درصد از اطلاعات مهم را حذف کرد.

[توضیح: پرامپت (Prompt) به دستورالعمل‌ها برای برقراری ارتباط بین انسان و یک مدل زبانی بزرگ گفته می‌شود که خروجی مشخصی را به کاربر تحویل می‌دهد]

آن‌ها سپس بررسی کردند که این متن‌های خلاصه‌شده چگونه ممکن است بر حافظه و درک افرادی که به آن‌ها اتکا می‌کنند، تاثیر بگذارند. پژوهشگران دریافتند که اگر به شرکت‌کنندگان متنی خلاصه‌شده با هوش مصنوعی نشان داده می‌شد که [این متن] رویدادهای حادثه‌ای را (که خودشان پیش‌تر واقعا دیده بودند) به شکلی گمراه‌کننده توصیف می‌کرد، آن‌ها نمی‌توانستند آن رویدادها را به‌درستی به یاد بیاورند.

پژوهشگران دریافتند که این امر، فارغ از اینکه افراد فکر می‌کردند متن خلاصه‌شده را هوش مصنوعی نوشته است یا یک انسان، [در هر صورت] رخ می‌داد و به نظر نمی‌رسید این موضوع به این بستگی داشته باشد که افراد به هوش مصنوعی اعتماد یا با آن آشنایی دارند یا نه.

در پژوهش جدید، ۳۳۱ شرکت‌کننده یک ویدیو انیمیشن را تماشا کردند که خودرویی را در حال نزدیک‌ شدن به یک تقاطع نشان می‌داد. در آن تقاطع، تابلویی وجود داشت که به راننده می‌گفت یا توقف کند یا به حرکت ادامه دهد. سپس خودرو در تقاطع می‌پیچد و با عابری که در حال عبور از خیابان است، برخورد می‌کند.

پژوهشگران سپس ۲۴ تا ۴۸ ساعت صبر کردند و متنی خلاصه‌شده با هوش مصنوعی در اختیار این شرکت‌کنندگان قرار دادند که یا دقیق بود یا جزئیاتی نادرست داشت. سپس از شرکت‌کنندگان خواسته شد رویداد را به یاد بیاورند و بگویند چه کسی مقصر بود، اما این پژوهش دریافت افرادی که متن خلاصه‌شده گمراه‌کننده هوش مصنوعی را خوانده بودند، به‌طور قابل‌توجهی کمتر می‌توانستند آن رویداد را به‌درستی به یاد بیاورند.

پژوهشگران این بررسی خاطرنشان کردند که چنین متن‌های خلاصه‌شده‌ای در طیف گسترده‌ای از کاربردها از جمله بررسی تصاویر پلیس، استفاده می‌شوند. آن‌ها همچنین هشدار دادند که این یافته نشان می‌دهد چنین کاربردهایی حتی اگر هیچ‌یک از افراد دخیل در این فرایند قصد سوء نداشته باشند، ممکن است گمراه‌کننده باشند.