تصور کنید یک چتبات طوری طراحی شده باشد که شما را کمی بیشتر به صحبتکردن ترغیب کند؛ نظرتان را درباره چیزی تغییر دهد یا شما را به خرید محصولی متقاعد کند.
حالا تصور کنید این چتبات بتواند برای انجام این کار از تمام اطلاعاتی که درباره شما دارد استفاده کند؛ از جمله ترسها، ناامنیهای ذهنی و جزئیات خصوصیای که در جریان گفتوگو با آن در میان گذاشتهاید.
اکسیوس مینویسد، امروزه قوانین کمی بهطور مستقیم چنین سناریویی را تنظیم میکنند و به همین دلیل، وعدههای شرکتهای هوش مصنوعی درباره نحوه استفاده از دادههای کاربران اهمیت ویژهای پیدا کرده است.
اکسیوس در نخستین بخش از مجموعه «آنها درباره شما چه میدانند» که در سال ۲۰۱۹ منتشر شد، اطلاعاتی را بررسی کرد که شرکتهای بزرگ فناوری از کاربران خود جمعآوری میکردند. در سال ۲۰۲۴ نیز در گزارشی دیگر بررسی کرد شرکتهای هوش مصنوعی از کدام دادههای کاربران برای آموزش سیستمهای خود استفاده میکنند.
این مجموعه جدید دوباره به همین پرسشها میپردازد، اما دامنه بررسی را گستردهتر میکند. اکسیوس مینویسد، نهتنها بررسی خواهیم کرد که آیا یک شرکت از دادههای کاربران برای آموزش مدلهای آینده هوش مصنوعی استفاده میکند یا نه، بلکه بررسی میکنیم این دادهها همین حالا چگونه میتوانند مورد استفاده قرار گیرند: برای شخصیسازی پاسخها، حفظ اطلاعات در حافظه، پیشنهاد محتوا یا هدفگیری تبلیغات.
براساس این گزارش، شرکتهای هوش مصنوعی به دنبال دسترسی به دادههایی فراتر از پنجره گفتوگو هستند.
«اوپن ایآی»(OpenAI) هفته گذشته قابلیت اختیاری حافظه کامپیوتر «Computer History» را معرفی کرد که به چتجیپیتی اجازه میدهد سابقهای از اپلیکیشنها و وبسایتهایی را که فرد استفاده میکند، حفظ کند.
گوگل نیز ماه گذشته اعلام کرد عکسها و دیگر محتوایی را که کاربران از طریق «جستجو» بارگذاری میکنند، بهطور پیشفرض برای آموزش سیستمهای هوش مصنوعی خود استفاده خواهد کرد؛ البته کاربران میتوانند از این قابلیت انصراف دهند.
مزیت این روند، امکان ارائه هوش مصنوعی مفیدتر و شخصیسازیشدهتر است. اما در مقابل، کاربران دید گستردهتر و مستمرتری از زندگی خود را در اختیار شرکتها قرار میدهند.
چتباتها میتوانند کاربران را به نوعی از افشاگری و بیان اطلاعات شخصی ترغیب کنند که موتورهای جستوجو و شبکههای اجتماعی معمولا چنین نمیکنند.
مردم از چتباتها درباره سلامت، پول، کار و روابطشان سؤال میکنند و در نتیجه ممکن است سابقهای بسیار صمیمیتر از نگرانیها و دغدغههایشان شکل بگیرد.
متا، گوگل و اوپن ایآی همگی در حال بررسی روشهای مختلف تبلیغات در چتباتهای خود هستند.
اگر هوش مصنوعی مصرفی همان مسیری را طی کند که جستوجو و شبکههای اجتماعی طی کردند، تبلیغات میتواند به بخش بسیار مهمتری از این کسبوکار تبدیل شود و سازندگان چتباتها را به افزایش میزان تعامل کاربران ترغیب کند.
میراندا بوگن، مدیر ارشد فناوری در مرکز دموکراسی و فناوری، به اکسیوس گفت: «دوران هوش مصنوعی بیش از پیش به این وابسته خواهد شد که مردم داوطلبانه تمام زندگی دیجیتال خود را در اختیار ابزارهای هوش مصنوعی قرار دهند؛ ابزارهایی که وعده میدهند بار ذهنی یا احساس تنهایی آنها را کاهش دهند.»
او گفت: «هرچه یک سیستم اطلاعات بیشتری درباره شما داشته باشد، راحتتر میتواند درخواستهای فزاینده برای دریافت اطلاعات خصوصی را به شکلی مطرح کند که طبیعی به نظر برسد. بدون سازوکارهای قدرتمند برای حفاظت از حریم خصوصی، مقاومت در برابر انگیزه کسب درآمد از این اطلاعات دشوار خواهد بود.»
سیاست شرکتها در این زمینه تفاوت زیادی با یکدیگر دارد. برای مثال، اپل با استفاده از Apple Intelligence (مجموعه قابلیتهای هوش مصنوعی اپل) روی دستگاه کاربر، خصوصیترین گزینه را ارائه میدهد.
درخواستهایی را که امکان انجامشان روی دستگاه وجود دارد، همانجا پردازش میکند.
برای کارهای پیچیدهتر، اپل از سیستم «Private Cloud Compute» استفاده میکند که به گفته این شرکت، دادهها را فقط برای انجام همان درخواست مورد استفاده قرار میدهد و محتوای آن را در اختیار اپل قرار نمیدهد.
این روش میتواند میزان اطلاعاتی را که اپل میتواند از سابقه کاربر نگه دارد و برای شخصیسازی مداوم استفاده کند، محدود کند.
این موضوع زمانی صدق نمیکند که کاربر تصمیم بگیرد درخواست خود را به یک سرویس شخص ثالث، مانند چت جیپیتی، ارسال کند.
متا
متا در مقابل، در سیاست حفظ حریم خصوصی خود ادعای بسیار گستردهتری درباره استفاده از دادههای کاربران دارد.
این شرکت میگوید میتواند از تعاملات کاربران با هوش مصنوعی متا (Meta AI) برای شخصیسازی محتوا و تبلیغات در سرویسهای خود استفاده کند؛ از جمله برخی تعاملات از طریق عینکهای هوشمند.
متا همچنین میگوید از گفتوگوهای مربوط به برخی موضوعات حساس، از جمله سلامت، سیاست و مذهب، برای شخصیسازی تبلیغات استفاده نمیکند.
این شرکت همچنین بهتدریج حالت «گفتوگوی ناشناس»(Incognito Chat) را برای گفتوگوهای موقت و خصوصی با هوش مصنوعی متا عرضه کرده است. این سیستم قرار است مشابه رویکرد اپل عمل کند؛ سرورهای متا درخواست را فقط برای ارائه پاسخ مشاهده میکنند و دادهای ذخیره نمیشود.
نگاهی گستردهتر
سایر سرویسهای هوش مصنوعی جایی میان رویکرد مبتنی بر دستگاه اپل و سیاستهای گستردهتر متا در زمینه استفاده از دادهها قرار میگیرند.
برخی سرویسها امکان گفتوگوهای موقتی را ارائه میکنند که برای حافظه یا آموزش مدلها مورد استفاده قرار نمیگیرند.
برخی سرویسها فقط در صورت اجازه کاربر، دادههای او را برای آموزش مدلها استفاده میکنند؛ در برخی دیگر، کاربر باید خودش انصراف دهد تا از استفاده از دادههایش برای آموزش جلوگیری شود.
بسیاری از سرویسها به کاربران اجازه میدهند دادههای ذخیرهشده درباره خود را ببینند و برخی اطلاعات موجود در حافظه را حذف کنند. گاهی این کار به سادگی درخواست از چتبات برای فراموشکردن یک جزئیات خاص است؛ در برخی سرویسها نیز ویرایش حافظه سازوکار پیچیدهتری دارد.
برخی چتباتها همچنین برای اطلاعات مربوط به سلامت، دادههای کودکان یا گفتوگوهایی که از طریق اپلیکیشنهای متصل به اشتراک گذاشته میشوند، قوانین جداگانهای دارند.
تفاوت اصلی دیگر فقط این نیست که یک شرکت از پیامهای شما برای آموزش مدلهایش استفاده میکند یا نه.
مسئله مهمتر این است که آیا این پیامها میتوانند برداشت و شناخت سیستم از شما را شکل دهند و اینکه این شناخت در ادامه برای چه کارهای دیگری میتواند مورد استفاده قرار گیرد.
برای بسیاری از افراد، ارزش یک چتبات شخصیسازیشده ممکن است در ازای از دست دادن بخشی از حریم خصوصی ارزشمند باشد.
اما کاربران حق دارند پیش از آنکه شروع به صحبتکردن کنند، دقیقا بدانند در ازای این خدمات چه چیزی را واگذار میکنند.
