ابزار ORISA می‌تواند مکالمات حذف‌شده با هوش مصنوعی را از حافظه گوشی‌های اندرویدی بازیابی کند و پرسش‌های جدیدی درباره امنیت داده‌ها ایجاد می‌کند.
حذف مکالمات با دستیارهای هوش مصنوعی لزوماً به معنای پاک شدن کامل اطلاعات از گوشی نیست. پژوهشگران ابزار جدیدی توسعه داده‌اند که می‌تواند ردپای گفت‌وگوهای حذف‌شده را در حافظه گوشی‌های اندرویدی شناسایی و حتی بخش‌هایی از مکالمات را بازسازی کند؛ قابلیتی که پرسش‌های تازه‌ای درباره امنیت داده‌ها و حریم خصوصی کاربران ایجاد کرده است.
به گزارش
ایتنا، پژوهشگران مؤسسه فناوری جورجیا ابزاری تخصصی به نام ORISA طراحی کرده‌اند که قادر است بخش‌هایی از مکالمات حذف‌شده با دستیارهای هوش مصنوعی را از حافظه گوشی‌های اندرویدی بازیابی کند. این ابزار علاوه بر استخراج اطلاعات باقی‌مانده، می‌تواند آنها را در قالب یک جلسه جدید هوش مصنوعی بازسازی کند تا امکان تعامل دوباره با محتوای بازیابی‌شده فراهم شود.
این فناوری به‌ویژه برای برنامه‌هایی طراحی شده است که مدل‌های هوش مصنوعی را مستقیماً روی گوشی اجرا می‌کنند و برای پردازش مکالمات نیازی به ارسال اطلاعات به سرورهای ابری ندارند.
اگرچه اجرای هوش مصنوعی روی دستگاه معمولاً راهکاری برای افزایش حریم خصوصی در نظر گرفته می‌شود، یافته‌های این پژوهش نشان می‌دهد که حذف یک مکالمه از محیط برنامه، لزوماً تمام آثار آن را از حافظه گوشی پاک نمی‌کند.
ابزار ORISA چگونه مکالمات حذف‌شده را بازیابی می‌کند؟
ابزار ORISA با بررسی حافظه دستگاه، به دنبال بخش‌هایی از داده‌های مربوط به مکالمات قبلی می‌گردد که پس از حذف گفت‌وگو همچنان باقی مانده‌اند. سپس این اطلاعات پراکنده را جمع‌آوری و پردازش می‌کند تا محتوای مکالمه و ارتباط میان بخش‌های مختلف آن تا حد امکان بازسازی شود.
نکته مهم این است که عملکرد ORISA تنها به استخراج چند جمله یا عبارت محدود نمی‌شود. این ابزار می‌تواند اطلاعات بازیابی‌شده را در قالب یک جلسه قابل تعامل در اختیار مدل هوش مصنوعی قرار دهد؛ به‌گونه‌ای که امکان پرسیدن سؤال درباره محتوای مکالمه قبلی وجود داشته باشد.
مدل‌های هوش مصنوعی که به‌صورت محلی روی گوشی اجرا می‌شوند، از نظر حریم خصوصی مزیت مهمی دارند؛ زیرا اطلاعات کاربران برای پردازش لزوماً از دستگاه خارج نمی‌شود. با این حال، پردازش محلی به این معنا نیست که داده‌ها پس از حذف مکالمه فوراً و به‌طور کامل از حافظه پاک می‌شوند.
در واقع، ممکن است بخش‌هایی از اطلاعاتی که هنگام اجرای برنامه در حافظه قرار گرفته‌اند، حتی پس از ناپدید شدن مکالمه از صفحه نمایش همچنان باقی بمانند. ORISA دقیقاً از همین ردپاهای اطلاعاتی برای بازسازی گفت‌وگوهای قبلی استفاده می‌کند.
آزمایشی که توانایی غیرمنتظره ابزار جدید را نشان داد
پژوهشگران برای بررسی عملکرد ORISA، یک دستیار مجازی با نام Project Note Keeper طراحی کردند که با استفاده از نسخه سفارشی برنامه ChatterUI، مدل‌های هوش مصنوعی را به‌صورت محلی روی اندروید اجرا می‌کرد.
در این آزمایش، ۱۰۰ مورد اطلاعات فرضی درباره یک پروژه در اختیار دستیار قرار گرفت و سپس کل مکالمه حذف شد.
پس از حذف گفت‌وگو، دستیار هوش مصنوعی تنها به ۱۴ مورد از این اطلاعات دسترسی داشت؛ زیرا سایر اطلاعات دیگر در محدوده حافظه فعال و قابل استفاده مدل قرار نداشتند.
اما زمانی که پژوهشگران از ORISA برای بازیابی جلسه استفاده کردند، این ابزار توانست ۲۶ مورد از ۱۰۰ مورد اطلاعات اولیه را بازیابی کند.
به این ترتیب، ORISA تقریباً دو برابر اطلاعاتی را بازیابی کرد که خود دستیار هوش مصنوعی پس از حذف مکالمه قادر به یادآوری آنها بود.
این نتیجه نشان می‌دهد که حتی اطلاعاتی که دیگر در حافظه فعال و محدوده مکالمه مدل هوش مصنوعی وجود ندارند، ممکن است همچنان در بخش‌های دیگری از حافظه دستگاه ردپاهایی داشته باشند و با ابزارهای تخصصی قابل بازیابی باشند.
پژوهشگران همچنین ORISA را در ۶۰ مجموعه آزمایشی شامل ۱۰ برنامه اندرویدی و سه مدل هوش مصنوعی بررسی کردند و موفق شدند داده‌هایی از مکالمات را در این آزمایش‌ها بازیابی کنند.
کاربرد در تحقیقات دیجیتال و بررسی توصیه‌های خطرناک هوش مصنوعی
این فناوری می‌تواند ابزار تازه‌ای در اختیار متخصصان جرم‌شناسی دیجیتال قرار دهد تا تعاملات کاربران با دستیارهای هوش مصنوعی را بررسی کنند؛ حتی زمانی که تاریخچه مکالمات از داخل برنامه حذف شده باشد.
برای مثال، در پرونده‌هایی که احتمال می‌رود توصیه‌های پزشکی یک دستیار هوش مصنوعی به کاربر آسیب رسانده باشد، بازیابی مکالمات می‌تواند به روشن شدن جزئیات کمک کند.
چنین قابلیتی به‌ویژه زمانی اهمیت پیدا می‌کند که کاربر مکالمات خود را ذخیره نکرده یا اطلاعات مربوط به توصیه‌های دریافتی را با پزشکان در میان نگذاشته باشد.
با استفاده از ابزارهای تخصصی بازیابی اطلاعات، بازرسان ممکن است بتوانند مشخص کنند کاربر چه اطلاعاتی در اختیار هوش مصنوعی قرار داده و در مقابل چه پاسخ‌ها یا توصیه‌هایی دریافت کرده است.
البته این قابلیت به معنای امکان بازیابی تمام مکالمات حذف‌شده نیست و موفقیت آن به شرایط فنی و میزان باقی ماندن داده‌ها در حافظه دستگاه بستگی دارد.
نگرانی تازه درباره حریم خصوصی کاربران
در کنار کاربردهای تحقیقاتی، یافته‌های این مطالعه نگرانی‌هایی درباره میزان واقعی کنترل کاربران بر اطلاعات شخصی خود ایجاد کرده است.
کاربری که گفت‌وگویی حساس با یک دستیار هوش مصنوعی داشته و سپس آن را حذف کرده است، ممکن است تصور کند اطلاعات برای همیشه از دستگاه پاک شده‌اند. با این حال، پژوهش جدید نشان می‌دهد که در برخی شرایط، بخش‌هایی از این داده‌ها همچنان در حافظه باقی می‌مانند.
این موضوع به‌خصوص درباره مکالماتی اهمیت دارد که حاوی اطلاعات پزشکی، مسائل شخصی، اطلاعات شغلی یا سایر داده‌های محرمانه هستند.
با وجود این، پژوهشگران تأکید دارند که بازیابی اطلاعات به عوامل مختلفی وابسته است. از جمله اینکه چه مقدار از داده‌های قبلی در حافظه باقی مانده و آیا امکان دسترسی به آنها وجود دارد یا خیر.
همچنین فعالیت‌های بعدی گوشی ممکن است باعث شود داده‌های جدید جایگزین اطلاعات قبلی شوند و در نتیجه، بازیابی مکالمات قدیمی دشوارتر یا غیرممکن شود.
آیا کاربران عادی می‌توانند مکالمات حذف‌شده را بازیابی کنند؟
ORISA یک ابزار تخصصی برای جرم‌شناسی دیجیتال است و نباید آن را با برنامه‌های معمول بازیابی اطلاعات گوشی اشتباه گرفت. استفاده از این فناوری مستلزم دسترسی به نسخه‌ای از حافظه و داده‌های دستگاه است و صرفاً با نصب یک برنامه معمولی نمی‌توان انتظار داشت تمام گفت‌وگوهای حذف‌شده با هوش مصنوعی دوباره ظاهر شوند.
همچنین این پژوهش بر دستیارهایی متمرکز است که مدل‌های هوش مصنوعی را به‌صورت محلی روی دستگاه اجرا می‌کنند؛ بنابراین نتایج آن را نمی‌توان بدون بررسی‌های بیشتر به تمام سرویس‌های هوش مصنوعی مبتنی بر فضای ابری تعمیم داد.
به گزارش
ایتنا به نقل از Digital Trends، یافته‌های این مطالعه نشان می‌دهد که پاک شدن مکالمات از محیط برنامه، لزوماً به معنای حذف کامل آثار آنها از حافظه دستگاه نیست.
این پژوهش بار دیگر اهمیت شیوه ذخیره‌سازی و مدیریت اطلاعات در برنامه‌های هوش مصنوعی را برجسته می‌کند و نشان می‌دهد که محافظت از حریم خصوصی کاربران، تنها به محل پردازش داده‌ها وابسته نیست؛ بلکه نحوه نگهداری و حذف واقعی اطلاعات نیز نقش تعیین‌کننده‌ای دارد.