بگذارید یک داستان شخصی برای شما تعریف کنم.
یک روز در آخرین کارم، مدیریت تصمیم گرفت دو نفر دیگر را در بخش فنی استخدام کند. آنها 2 توسعه دهنده جوان را وارد کردند که یکی از آنها به تیم موبایل منصوب شد. «تیم سیار» اساساً من بودم. من به مدت 5 سال مسئولیت برنامه تلفن همراه را بر عهده داشتم و توانستم آن را با توقف صفر، یکپارچه سازی API مناسب (این برنامه در هر نظرسنجی از کاربران به طور مثبت ذکر شده بود) و مقدار زیادی قهوه و شب های بی خوابی را حفظ کنم.
بنابراین این مرد جدید وارد می شود، شروع به بررسی پایگاه کد می کند و شروع به گزارش در استانداردهای روزانه ما می کند (ما بیش از 3 سال است که از راه دور کار می کنیم). 2-3 روز اول بیشتر سوالات و مشاهدات خوش خیم بود تا اینکه رعد و برق زد. او با صدایی نسبتاً نگران کننده گفت: “من امروز صبح از طریق پایگاه کد رفتم و بیش از 10000 باگ پیدا کردم. فکر می کنم حدود 20 باگ را برطرف کردم، اما هنوز بیش از 10000 مورد داریم.”
سپس سکوت. تقریبا 5 ثانیه هیچ یک از تیم چیزی نگفتند، ما فقط صفحه نمایش را تماشا کردیم. به آرامی به داشبورد اپ استور می‌رسم تا آخرین گزارش‌های خرابی را ببینم، در حالی که ذهنم به سرعت می‌کوشد بفهمم چه زمانی اینقدر خراب کردم. و سپس او صفحه نمایش خود را به اشتراک گذاشت و من نمی توانستم چشمانم را باور کنم. همه این خطاها خطاهای پرده ای بودند. او به نوعی لینتر را در Visual Code خود فعال کرد و شروع به پرتاب تمام این هشدارها کرد که ما به جای 2 یک بخش و دو خط دیگر در انتهای پرونده داریم. بدون خطای عملکردی، بدون خرابی، هیچ چیز. فقط برجسته کردن نحو…
پس نه، من قبلا از لینتر استفاده نکرده ام. من زمان کافی نداشتم، من خودم مشغول مدیریت یک برنامه React Native 20000 خطی هستم. اما کادربندی یکسری هشدارها درباره میزان فضایی که در کد منبع داشتیم در حالی که برنامه کاملاً به عنوان اشکال کار می کرد – خوب، این در کارت بینگو من نبود. من هم ناامید و هم عصبانی بودم.
برای چند ماه موفق شدم با این پسر رابطه مناسبی داشته باشم، اما هرگز از این واقعیت غلبه نکردم که سعی می کردیم از کلاهبردار شرکت بترسیم.
کلود میتوس و 10000 وصله امنیتی او
اخیرا، آنتروپیک، خالق کلود، با صدایی که به طرز عجیبی مرا به یاد صدای همکارم در آن روز صبح می‌اندازد، مدلی شبیه به یک «جانور» را اعلام کرد. چیزی به قدری قدرتمند که توانست حفره های امنیتی را در نرم افزارهای 27 ساله پیدا کند. 10000 آسیب پذیری روز صفر آنتروپیک به قدری این موضوع را به شکل بدی طراحی کرد که آنها حتی با یک سری شرکت دیگر اتحادی را برای “مبارزه کردن” با امنیت، سوار بر اسب سفید کلود میتوس، تشکیل دادند. آنها 100 میلیون دلار برای رایانه می بخشند.
واقعاً چیزی اینجا کلیک نمی‌کند، برای فرانسوی من متاسفم.
2 نکته قابل توجه است:
- اگر واقعاً مدلی به این خوبی دارند، فوراً آن را آزاد کنند. چرا مدل را بیرون نمی گذارید؟ چون بازیگران بد می توانند از آن استفاده کنند؟ اما شاید قبلا انجام داده اند، در این صورت باید ببینم مشکل چیست و در اسرع وقت آن را برطرف کنم. و چه کسی می‌تواند بگوید که Anthropic قبلاً از نقض استفاده نکرده است، اگر آنها تنها کسانی هستند که این ابزار را دارند؟ اگر بدانم فرصتی برای اصلاح چیزی دارم، از فرصت استفاده خواهم کرد.
- آیا این 10000 باگ واقعا آسیب پذیری روز صفر هستند؟ آیا آنها کل سیاره را در معرض خطر قرار می دهند؟ یا واقعاً اشکالاتی هستند، اما عمدتاً خوش خیم، به سطح اشکالاتی که همکار من قبلاً “کشف” کرده بود؟
IPO آتی Anthropic
طی چند روز گذشته، X (توئیتر سابق) تحت تأثیر این خبر له شده است. AGI اینجاست و واقعاً بد است. همه چیز را حذف کنید و اجرا کنید، اطلاعات شما بلافاصله عمومی می شود. ما محکوم به فنا هستیم!
چی؟
چگونه از «کلود واقعاً بهترین چیز از زمان نان بریده شده است» به «کلود میتوس قرار است اینقدر ما را خراب کند» رسیدیم؟
من اینو نمیخرم متاسفم، اما این کار را نمی کنم.
این بیشتر شبیه یک ترفند بازاریابی برای عرضه اولیه اولیه سهام آنتروپیک است. زمان، استراتژی (القای ترس، کشف راه حل، به عنوان تنها ناجی موجود)، همه چیز در یک راستا است. Mythos ممکن است واقعاً یک مدل برجسته باشد و کلود سابقه پیدا کردن و رفع اشکالات را دارد. اما این تنها مدلی نیست که این کار را انجام می دهد. بسیاری از مدل های منبع باز به همان اندازه توانایی دارند، اگر نه بیشتر.
و این به یک نکته بسیار مهم اشاره می کند. اگر به اصطلاح “اتحاد” برای بهبود امنیت کار نکند، بلکه برای جلوگیری از استقرار “هوش مصنوعی بد” کار کند؟ و منظور من از “هوش مصنوعی بد” “هوش مصنوعی است که منبع باز است و توسط ما، انجمن تایید و تایید نشده است.” این واقعا ترسناک است. سرکوب هوش مصنوعی منبع باز، به بهانه «ایمن سازی آینده بشریت با استقرار تنها هوش مصنوعی خوب»، متاسفانه منجر به فضایی بسیار تاریک خواهد شد.
من واقعاً امیدوارم که این اتفاق نیفتد. این IPO در معرض خطر زیادی قرار دارد زیرا احتمالاً یکی از بزرگترین در تاریخ خواهد بود. اما ارزش تغییر آینده هوش مصنوعی به خاطر قیمت برخی از سهام را ندارد.
تمیز نگه داشتن
من معمولا قبل از پست کردن، یک چک املایی و تصحیح کپی از کلود انجام می دهم، حتی یک مهارت پیش از پست برای آن دارم. خب امروز نه پس اگر اشتباهات املایی یا عبارت های عجیبی دیدید، بدانید که این کاملا طبیعی است. من عمدا (و احتمالاً مضحک، کسی می‌داند، اما روی حرف‌هایم می‌مانم) تصمیم گرفتم که ایده‌های این پست وبلاگ را از گفتگوهای روزانه‌ام با کلود حفظ کنم. من می دانم که گوش می دهد، نمایه می کند و رفتار خود را برای هر یک از ما اصلاح می کند. و من می دانم که او در نهایت این مقاله را همانطور که در رسانه های اجتماعی به اشتراک گذاشته خواهد شد، خواهد خواند.
اما حداقل او آن را دیر می خواند و در جای دیگری.
