محققان دانشگاه تهران «توهم» در هوش مصنوعی را مهار کردند

محققان دانشگاه تهران، پیچیده‌ترین معماری‌های هوش مصنوعی را رمزگشایی و کارایی آن‌ها را در محیط‌های عملیاتی ارتقا دادند.

به گزارش ایسنا به نقل از روابط‌عمومی دانشگاه تهران، در حالی که پدیده «توهم» (Hallucination) به عنوان جدی‌ترین نقطه ضعف مدل‌های زبانی بزرگ (LLM) اعتبار این فناوری را در حوزه‌های حساس با چالش روبه‌رو کرده است، محققان دانشگاه تهران با بررسی دقیق معماری‌های RAG، راهکار عبور از این بحران را ارائه داده‌اند.

این گزارش تحلیلی که بر پایه بررسی بیش از ۳۰۰ مرجع علمی تدوین شده، نشان می‌دهد که چگونه پیوند میان بازیابی اطلاعات و تولید متن، هوش مصنوعی را از یک سیستم احتمالی به یک ابزار مستند و قابل اعتماد تبدیل می‌کند.

دکتر شاهرخ اسدی، عضو هیأت علمی دانشکدگان فارابی دانشگاه تهران و سرپرست گروه تحقیقاتی در این تحلیل، یک ساختار طبقه‌بندی شده چهار مرحله‌ای شامل «نمایه‌سازی»، «بازیابی»، «تلفیق» و «تولید» را معرفی می‌کند. این چارچوب به متخصصان اجازه می‌دهد تا پیچیده‌ترین معماری‌های هوش مصنوعی را رمزگشایی کرده و کارایی آن‌ها را در محیط‌های عملیاتی ارتقا دهند.

دکتر اسدی با اشاره به اینکه یکی از برجسته‌ترین بخش‌های تحلیل این تحقیق، بررسی سیر تکامل از Vector RAG به سوی Graph RAG است، گفت: «برخلاف مدل‌های قدیمی که تنها به شباهت‌های سطحی کلمات بسنده می‌کردند، معماری‌های گرافی توانایی استدلال چندمرحله‌ای را فراهم می‌آورند که برای پاسخگویی به پرسش‌های پیچیده و تحلیلی حیاتی است».

بنا به گفته دکتر اسدی، این تحقیق همچنین به بررسی الگوهای نوظهوری می‌پردازد که مرزهای هوش مصنوعی را جابه‌جا کرده‌اند. وی در تحلیل خود به تبیین نقش Agentic RAG در سیستم‌های چندوجهی مدل‌های ترکیبی می‌پردازد؛ رویکردهایی که هوش مصنوعی را قادر می‌سازد به طور همزمان از متن، تصویر و پایگاه‌های داده پیچیده برای استخراج حقیقت استفاده کند.

علاوه بر مباحث تئوریک، در این تحقیق، مقایسه‌ای کاربردی میان پایگاه‌های داده‌برداری و گرافی برای استقرار در پروژه‌های بزرگ ارائه شده است.

عضو هیأت علمی دانشکده مهندسی دانشکدگان فارابی با یکپارچه‌سازی معیارها و مجموعه داده‌های ارزیابی، ابزاری دقیق در اختیار پژوهشگران و مهندسان قرار می‌دهد تا بتوانند دقت و اعتبار سیستم‌های خود را به طور استاندارد بسنجند.

دکتر اسدی در پایان تأکید می‌کند که RAG اکنون به یک الگوی طراحی بالغ برای ساخت سیستم‌های هوش مصنوعی «حسابرسی‌پذیر» تبدیل شده است. این نقشه راه، مسیر حرکت از خط‌لوله‌های ساده اطلاعاتی به سوی سیستم‌های استدلال‌گر مبتنی بر شواهد را ترسیم کرده و بستری امن برای استفاده از هوش مصنوعی در تصمیم‌گیری‌های کلان فراهم می‌سازد.

این پژوهش که با همکاری دانشجو امیرعباس کمالی‌پور انجام شده است، اینجا قابل دسترسی است.

تاج در حاشیه بدرقه تیم ملی: این بهترین بدرقه چند دوره اخیر است؛ شور و حال مردمی خاصی دارد

بیشتر بخوانید:

راز توهم‌های هوش مصنوعی فاش شد

تماشاخانه

عروس‌های سیاه‌پوش؛ دخترانی که خودشان را سیاه‌بخت کردند

حمله به میراث جهانی ؛ موج انفجار با کاخ گلستان چه کرد؟ وقتی پرتابه‌‌ها بر سر کاخ قاجاری فرود آمدند

فیلم های دیگر