عصر جدید هوش مصنوعی آغاز شد!

آسیانیوز ایران؛ سرویس علم و تکنولوژی:

تصور کنید هوش مصنوعی نه از کتاب‌ها و داده‌های انسانی، بلکه از تجربه مستقیم با جهان بیاموزد! دو دانشمند برجسته هوش مصنوعی، دیوید سیلور (خالق AlphaGo) و ریچارد ساتن (پدر یادگیری تقویتی)، نظریه انقلابی‌ای را مطرح کرده‌اند: «عصر تجربه»، جایی که AIها مانند انسان‌ها از تعامل با محیط یاد می‌گیرند و به مرزهای هوش فرابشری نزدیک می‌شوند. آیا این پایان وابستگی AI به انسان است؟ یا آغاز عصری جدید از ابرهوشمندی ماشین‌ها؟

هوش مصنوعی دیگر به داده‌های انسانی وابسته نیست؛

دو پژوهشگر برجسته هوش مصنوعی ایده «یادگیری تجربی» را بهعنوان فاز بعدی توسعه هوش مصنوعی مطرح کرده‌اند. این نظریه در مقاله‌ای با عنوان «عصر تجربه» منتشر شده که بخشی از کتاب در دست انتشار «طراحی یک هوش» از انتشارات MIT است. دیوید سیلور و ریچارد اس. ساتن در این مقاله از نسل جدیدی از عامل‌های هوش مصنوعی سخن گفته‌اند که به‌زعم آن‌ها می‌توانند راه را برای دستیابی به «هوش فرابشری» هموار کنند. آن‌ها نوشته‌اند: «در حوزه‌هایی مانند ریاضیات، برنامه‌نویسی و علوم، دانش استخراج‌شده از داده‌های انسانی به مرز اشباع نزدیک شده است.» به گفته این دو پژوهشگر، هوش مصنوعی مولد فعلی توانایی اختراع ابزارهای مفید یا کشف بینش‌های جدید خارج از محدوده‌ی درک کنونی انسان را ندارد.

معرفی پژوهشگران

• دیوید سیلور: دانشمند علوم کامپیوتر و یکی از توسعه‌دهندگان اصلی AlphaGo، برنامه‌ای که در سال ۲۰۱۶ توانست لی سدول، قهرمان جهانی بازی Go، را شکست دهد.

• ریچارد اس. ساتن: از چهره‌های تأثیرگذار حوزه یادگیری تقویتی و توسعه‌دهنده الگوریتم‌های پایه‌ای این حوزه. او در مقاله‌ای در سال ۲۰۱۹ پیشنهاد داد که دانشمندان کامپیوتر باید از «فرا-روش‌ها» استفاده کنند؛ یعنی تکنیک‌هایی که به سیستم اجازه می‌دهند از جهان پیچیده و نامنظم بیرون بیاموزند، نه صرفاً از داده‌های ساختاریافته.

چارچوب جدید رشد هوش مصنوعی

سیلور و ساتن روند رشد هوش مصنوعی در دهه اخیر را به سه دوره تقسیم کرده‌اند:
۱. دوره شبیه‌سازی (Simulation Era): همراه با ظهور AlphaGo و تکنیک‌های یادگیری ماشین.
۲. دوره داده‌های انسانی (Human Data Era): آغازشده با GPT-3.
۳. دوره تجربه (Experience Era): از سال ۲۰۲۴ با معرفی AlphaProof، محصول دیپ‌مایند مبتنی بر یادگیری تقویتی.

آن‌ها اشاره کرده‌اند که AlphaProof توانسته در المپیاد جهانی ریاضی مدال کسب کند، آن هم با الگوریتمی که از طریق تعامل مداوم با سیستم‌های اثبات ریاضی آموزش دیده است. به جای آموزش مستقیم ریاضیات، به این عامل پاداش‌هایی برای حل مسائل ریاضی داده شده است.

یادگیری از جهان واقعی

به باور نویسندگان، هوش مصنوعی می‌تواند مستقیماً از جهان یاد بگیرد؛ چه از طریق شبیه‌سازی محیط و چه از طریق داده‌هایی مانند سود مالی، نتایج آزمون یا مصرف انرژی.
آن‌ها نوشته‌اند: «این داده‌ها باید به‌گونه‌ای تولید شوند که با قوی‌تر شدن عامل، خود نیز بهبود یابند؛ زیرا اگر داده‌ها به روشی ایستا تولید شوند، عامل به‌سرعت از آن روش پیشی می‌گیرد.»

ویژگی‌های عامل‌های عصر تجربه

عامل‌های هوش مصنوعی در این عصر تفاوت‌های کلیدی با مدل‌های فعلی دارند:
۱. توانایی کار طولانی‌مدت روی اهداف بلندپروازانه.
۲. یادگیری هم از محیط و هم از ورودی‌های انسانی.
۳. انگیزش مبتنی بر تجربه خود عامل، نه قضاوت انسان.
۴. قابلیت برنامه‌ریزی و استدلال درباره مسائل مستقل از انسان.

هدف این عامل‌ها صرفاً پاسخ به پرسش‌های کاربر نیست، بلکه پیگیری اهداف بلندمدت است. برخلاف مدل‌های کنونی که تنها می‌توانند ترجیحات کاربر را به‌خاطر بسپارند یا به پرسش‌های قبلی در یک گفت‌وگو ارجاع دهند.

هشدارها و چالش‌ها

این دو پژوهشگر به خطرهای احتمالی نیز اشاره کرده‌اند، از جمله:

• جایگزینی شغلی

• کاهش کنترل انسان بر تصمیم‌های عامل‌ها

• دشواری تفسیر عملکرد آن‌ها

این تحولات، در صورت تحقق، می‌توانند آینده هوش مصنوعی را متحول کنند، اما مستلزم مدیریت دقیق چالش‌های اخلاقی و فنی هستند.

تحلیل علمی آسیانیوز ایران

نظریه «عصر تجربه» از دو جنبه علمی و فلسفی قابل بررسی است:

 از نظر فنی:

• یادگیری تجربی مبتنی بر تعامل مداوم با محیط (مانند AlphaProof) از محدودیت‌های داده‌های ایستا فراتر می‌رود.

• یادگیری تقویتی پیشرفته با مکانیسم پاداش/جریمه، مسیری مشابه یادگیری انسانی را تقلید می‌کند.

• عدم وابستگی به داده‌های انسانی، AI را قادر می‌سازد تا حوزه‌های ناشناخته (مانند کشفیات علمی جدید) را کشف کند.

چالش‌ها و نگرانی‌ها

• کنترل پذیری: اگر AIها بر اساس تجربه خود (نه دستور انسان) تصمیم بگیرند، چگونه می‌توان اهداف آن‌ها را همسو با منافع بشر نگه داشت؟

• شتاب پیشرفت: این مدل‌ها ممکن است فراتر از درک انسان رشد کنند و منجر به سوپراینتلیجنس غیرقابل پیش‌بینی شوند.

• مسئولیت اخلاقی: در صورت خطا (مثلاً در سیستم‌های پزشکی یا نظامی)، پاسخگو چه کسی خواهد بود؟

جمع‌بندی
این نظریه آغازی بر پایان عصر داده‌محوری صرف در هوش مصنوعی است. اگرچه پتانسیل فوق‌العاده‌ای برای حل مسائل پیچیده دارد، اما نیازمند چارچوب‌های امنیتی و اخلاقی جدید است تا از تبدیل شدن به یک تهدید جلوگیری کند. آیا شما هم فکر می‌کنید هوش مصنوعی به زودی از انسان پیشی می‌گیرد؟ نظراتتان را بنویسید