اوپن‌ای‌آی اعلام کرد که از این پس، متن‌های چت‌جی‌پی‌تی شامل سیگنال‌های پنهانی خواهند بود که به کاربران امکان می‌دهد بررسی کنند این متن‌ها از کجا آمده‌اند.
این شرکت در حال راه‌اندازی تدریجی «نهان‌نگاری (Watermarking) متنی» است و با این هدف که نشان دهد یک خروجی با هوش مصنوعی تولید شده است، در نحوه انتخاب و چینش واژه‌ها تغییرات ظریفی ایجاد می‌کند. قرار است این تغییرات برای خوانندگان انسانی غیرقابل مشاهده باشند، اما سامانه‌های خودکار بتوانند آن‌ها را تشخیص دهند.
[توضیح: واترمارک‌گذاری یا نهان‌نگاری به داده‌ها و نشانه‌های پنهان یا آشکاری گفته می‌شود که به منظور حفظ حق مولف و شناسایی مالکیت، به فایل‌های دیجیتالی از جمله متن‌ها، عکس‌ها، ویدیوها و فایل‌های صوتی اضافه می‌شوند. این نشانه‌ها ممکن است به صورت پنهان، مانند تغییر در بیت‌های فایل که با چشم غیرمسلح دیده نمی‌شود، اجرا شوند]
این اقدام پس از آن صورت می‌گیرد که آنتروپیک اعلام کرد فناوری مشابهی را به «کلود» اضافه خواهد کرد. این امر اعتراض برخی کاربران را که مدعی بودند این [فناوری] قابل‌اعتماد نخواهد بود و دخالتی غیرضروری در چگونگی کار این سامانه محسوب می‌شود، برانگیخت.
Read More
This section contains relevant reference points, placed in (Inner related node field)
هر دو [شرکت] اوپن‌ای‌آی و آنتروپیک این تغییر را در راستای قانون هوش مصنوعی اتحادیه اروپا اعمال کردند؛ قانونی که شرکت‌های سازنده محصولات هوش مصنوعی مولد را ملزم می‌کند خروجی‌هایشان را به‌گونه‌ای ارائه کنند که سامانه‌های خودکار بتوانند آن‌ها را شناسایی کنند. برخلاف آنتروپیک، اوپن‌ای‌آی، این نهان‌نگاری را فقط در اتحادیه اروپا اضافه می‌کند.
اوپن‌ای‌آی سامانه خود را «تکست‌گرین» (textGrain) می‌نامد. این سامانه آنچه را اوپن‌ای‌آی «سیگنال آماری نامرئی» می‌نامد، به شیوه‌ای که چت‌جی‌پی‌تی واژه‌ها را انتخاب می‌کند، می‌افزاید.
اوپن‌ای‌آی هشدار داد که این ابزار هنوز قابل اعتماد نیست و ممکن است متن نوشته‌شده به‌دست انسان را به‌اشتباه، خودکار تشخیص دهد و برعکس. این شرکت گفت این امر به‌ویژه زمانی صادق است که متن کوتاه یا ویرایش شده باشد.
این شرکت تاکید کرد که تصور نمی‌کند نهان‌نگاری کیفیت پاسخ‌های چت‌جی‌پی‌تی را کاهش دهد و به داده‌هایی اشاره کرد که نشان می‌داد متن‌های دارای واترمارک در برخی ارزیابی‌ها در واقع عملکرد بهتری از متن‌های بدون واترمارک داشتند. پس از آنکه آنتروپیک، سامانه مشابه خود را معرفی کرد، برخی کاربران از آن انتقاد کردند و گمانه‌زنی کردند که وجود نهان‌نگاری‌ها باعث خواهد شد خروجی‌های کلود کیفیت پایین‌تری داشته باشند.
اوپن‌ای‌آی گفت که در ابتدا، تنها به «پژوهشگران تاییدشده و سازمان‌های تخصصی» اجازه دسترسی به نرم‌افزار تشخیص‌دهنده خود را خواهد داد. بخشی از دلیل این تصمیم آن است که این سامانه هنوز قابل‌اعتماد نیست و این شرکت گفت برای ارزیابی عملکرد آن در استفاده‌های واقعی، با این سازمان‌ها همکاری خواهد کرد.
این شرکت همچنین تاکید کرد که نهان‌نگاری‌ها نمی‌توانند نشان دهند انسان تا چه اندازه در تولید متن نقش داشته، درباره اینکه مالک متن چه کسی است چیزی نمی‌گویند، کاربری را که آن را ایجاد کرده است، شناسایی نخواهند کرد و [این نهان‌نگاری‌ها] نیز هیچ‌گونه نشانه‌ای مبنی بر میزان دقت یک خروجی مشخص نیستند. این شرکت همچنین تاکید کرد که نبود واترمارک نیز به هیچ وجه نشان نمی‌دهد که متن را انسان تولید کرده است.
با گسترش محتوای تولیدشده به‌صورت خودکار در سراسر اینترنت، نهادهای ناظر و شرکت‌ها به‌دنبال راه‌هایی افتاده‌اند تا بررسی کنند که آیا یک متن، تصویر یا محتوای رسانه‌ای دیگر را یک سامانه هوش مصنوعی تولید کرده است یا یک انسان. علاوه بر نهان‌نگاری‌ها، برخی شرکت‌ها راهبردهای دیگری را نیز دنبال کرده‌اند، از جمله اپل که ماه گذشته آیفون جدیدی عرضه کرد که به فناوری مجهز است که هدف آن این است که عکاسان بتوانند ثابت کنند واقعا خودشان یک عکس را گرفته‌اند.
© The Independent
