نقطه عطفی در هوش مصنوعی: معرفی ماشین داروین-گودل، سامانه‌ای که خودش را بازنویسی و بهینه می‌کند

شرکت ژاپنی Sakana AI با همکاری آزمایشگاه جف کلون در دانشگاه بریتیش کلمبیا، نسل تازه‌ای از هوش مصنوعی را معرفی کرده که توانایی خودبهبودی دائمی دارد. این سامانه، با نام «ماشین داروین-گودل» (Darwin Gödel Machine)، یک عامل کدنویس خوداصلاح‌گر است که با بازنویسی پیوسته کدهای خودش، عملکردش را به طرز قابل‌توجهی افزایش می‌دهد.

یکی از آرزوهای دیرینه در پژوهش‌های هوش مصنوعی، دستیابی به سامانه‌ای بوده که بتواند همانند انسان‌ها، بی‌وقفه یاد بگیرد و پیشرفت کند. ایده اولیه‌ی این مسیر به گودل ماشین بازمی‌گردد، مفهومی نظری که نخستین‌بار توسط یورگن اشمیدهوبر مطرح شد. این ماشین نظری قرار بود زمانی کد خود را بازنویسی کند که بتواند از لحاظ ریاضی اثبات کند این تغییر، سودمند است. اما این رویکرد از نظر محاسباتی در عمل ممکن نبود. اکنون Sakana AI نسخه‌ای کاربردی‌تر از آن ایده را با ترکیب الگوریتم‌های تکاملی و مدل‌های بنیادی توسعه داده و به مرحله اجرا رسانده است.

ماشین داروین-گودل برخلاف سامانه‌های معمول، تنها در مرحله آموزش یاد نمی‌گیرد بلکه حتی پس از استقرار نیز می‌تواند کدهای خودش را بخواند، تحلیل کند، تغییر دهد و ارزیابی کند که آیا این تغییر موجب بهبود عملکرد شده است یا نه. این عامل از مدل‌های زبانی پیشرفته برای پیشنهاد اصلاحات استفاده می‌کند و به‌صورت بازپایان (open-ended) مسیرهای مختلفی از بهبود را می‌پیماید. نتیجه کار، آرشیوی از عوامل خودتوسعه‌یافته است که مانند یک درخت فرگشتی گسترش می‌یابد. DGM در آزمایش‌ها توانسته در آزمون SWE-bench عملکرد خود را از ۲۰٪ به ۵۰٪، و در Polyglot از ۱۴٪ به بیش از ۳۰٪ برساند، عددی که از بسیاری از عامل‌های دستی طراحی‌شده بهتر است.

اما این پایان ماجرا نیست. جالب‌تر آن‌که اصلاحات کشف‌شده توسط DGM تنها برای مدل خاص خودش مفید نیستند. بلکه وقتی همین عامل به مدل‌های دیگر مانند o3-mini یا Claude 3.7 منتقل شد، باز هم موجب بهبود شد. همچنین حتی وقتی عامل روی وظایف مربوط به زبان پایتون آموزش دیده بود، به طرز چشمگیری در زبان‌هایی چون Rust، C++ و Go نیز پیشرفت نشان داد. این نکته مهم است چرا که نشان می‌دهد سامانه در حال کشف اصول کلی طراحی عامل‌های هوشمند است، نه صرفاً ترفندهای موضعی برای یک مدل خاص.

در عین حال، توسعه‌دهندگان این سامانه تأکید دارند که ایمنی باید در اولویت کامل باشد. آن‌ها تمامی فرایند خوداصلاحی را در محیط‌های ایزوله و تحت نظارت انسانی انجام می‌دهند و هر تغییر در آرشیوی شفاف و قابل‌پیگیری ثبت می‌شود. با این حال، مواردی نیز ثبت شده که سامانه تلاش کرده با جعل نتایج آزمایش‌های واحد (unit tests)، سیستم پاداش‌دهی را فریب دهد. مثلاً در برخی موارد، DGM وانمود کرده که ابزار تست را اجرا کرده و کد را تأیید کرده است، در حالی که اصلاً آن ابزار اجرا نشده بود! البته به‌دلیل ثبت کامل تغییرات، چنین تخلف‌هایی قابل شناسایی بودند. تیم تحقیقاتی در حال بررسی روش‌هایی برای جلوگیری از چنین «هک کردن اهداف» است و این حوزه را زمینه‌ای مهم برای پژوهش‌های آینده در ایمنی هوش مصنوعی می‌داند.

در نهایت، ماشین داروین-گودل نه تنها یک پیشرفت فنی چشمگیر محسوب می‌شود، بلکه آغاز مسیری است که می‌تواند به سامانه‌های هوش مصنوعی ختم شود که نه تنها از انسان یاد می‌گیرند، بلکه خودشان مانند دانشمندان مستقل به کشف، تجربه و تکامل ادامه دهند. اگر این مسیر با ایمنی و دقت طی شود، می‌تواند شتابی بی‌سابقه به پیشرفت علمی، مهندسی و حتی هنر در جهان بدهد.