Anthropic اخیراً اعلام کرده است که تمام متن‌های تولید شده توسط مدل‌هایش واترمارک می‌شوند، که باعث می‌شود تمام تعاملات شما نه تنها به‌عنوان از Claude قابل شناسایی باشد، بلکه به هویت شما نیز قابل ردیابی است. بر اساس بیانیه مطبوعاتی آنها، واترمارک از هر گونه کپی و چسباندن جان سالم به در خواهد برد و برای کاربر “نامرئی” خواهد بود.
دو نکته در اینجا قابل ذکر است.
اول، این یک اقدام نظارتی است، این یک قانون اتحادیه اروپا است که از 2 آگوست لازم الاجرا می شود. FWIW، Anthropic بیش از آنچه در قانون لازم بود انجام داد، اما اجازه دهید آن را به زمان دیگری رها کنیم. در حال حاضر، فقط درک کنید که این از بالا به پایین می آید، نه یک بازیکن هوش مصنوعی که با آن فریب دهید. همه از این کار پیروی خواهند کرد (گوگل قبلاً انجام داده است، حتی SynthId SDK خود را در سال 2024 برای آن باز کرده است).
دوم، به اصطلاح واترمارک یک تکنیک استگانوگرافی است که برای پنهان کردن یک پیام در دید ساده با رمزگذاری انتخاب نشانه استفاده می‌شود. به عبارت دیگر، آنتروپیک متن را تشخیص می‌دهد زیرا توکن بعدی را مطابق الگوریتم خود انتخاب می‌کند.
بنابراین خروجی مدل اکنون به طور دائمی به گونه ای “استایل” شده است که همیشه به مدل بازمی گردد.
مگر اینکه متن تغییر کند، یعنی. اگر خروجی را به روشی بسیار معنادار ویرایش کنید، انتخاب نشانه قبلاً شکسته شده است و متن “آزاد شناور” است.
مدل های اختصاصی شما را قفل می کنند، مدل های منبع باز نه چندان
اگر همچنان از الگوهای خود برای تولید متن (اسناد، پست‌های وبلاگ، ایمیل‌ها، کپی وب‌سایت و غیره) استفاده می‌کنید، به خاطر داشته باشید که قالبی که استفاده کرده‌اید شما را در همه جا دنبال می‌کند. چیزی که امروز نوشتید تا 5 سال بعد همچنان به شما باز می گردد.
در یک سناریوی دیستوپیایی (نه چندان)، با اثبات اینکه آنها بخشی از نسل بوده‌اند، نئولاب‌های هوش مصنوعی حتی می‌توانند ادعای مالکیت کنند و برای آن از شما پول بخواهند (حتی اگر قبلاً برای خود نسل پول پرداخت کرده‌اید). برای روشن شدن این موضوع هنوز اتفاق نیفتاده است، اما هیچ کس نمی گوید که این اتفاق نخواهد افتاد.
دو راه برای خروج از این ساعت سفید ثابت وجود دارد:
- همیشه متون خود را به طور کامل ویرایش کنید – این باعث شکسته شدن الگوریتم و غیرقابل تشخیص آن می شود.
- از مدل های منبع باز استفاده کنید که به وضوح خروجی خود را واترمارک نمی کنند
حالا برای قسمت اول، ویرایش. من فکر می‌کنم شایان ذکر است که هر چه مدت طولانی‌تر این کار را انجام دهید، نئولابرگ‌های هوش مصنوعی در مورد اینکه سازنده متن کیست سردرگم‌تر می‌شوند و به مرور زمان کل چیز واترمارک منسوخ می‌شود. هیچ کس قرار نیست به چیزی با این همه مثبت کاذب تکیه کند.
در مورد بخش دوم، ممکن است با یک انتخاب بسیار فوری روبرو باشیم: به طور جمعی مدل‌ها را با استفاده از نرم‌افزارهای توزیع‌شده آموزش دهیم تا هوش مصنوعی منبع باز خالص بسازند. همه چیز در فضای باز خواهد بود و ما تعداد پارامترها، مدل های آموزشی و اگر یک واترمارک یا مشاهده احمقانه دیگری وجود دارد را می دانیم.
فکر می کنم آسان نخواهد بود. اما ما قبلاً این کار را با پول انجام داده‌ایم: 16 سال پیش استخراج بیت‌کوین را شروع کردیم و ببینید چقدر پیشرفت کرده‌ایم.
تیک تاک ساعت است.
