دانشمندان مدام نسبت به خطاهای هوش مصنوعی و اطلاعات ساختگی آن هشدار می‌دادند، اما ابزارهای جدید این تصویر را معکوس کرده‌اند؛ پس از آنکه توانستند خطاهای انسانی را که برای چندین دهه در پژوهش‌ها و پایگاه‌های داده معتبر پنهان مانده بود، آشکار سازند.
بر اساس مجله معتبر «Nature»، یک مدل هوش مصنوعی توانسته است خطایی را در برآورد دمای انباشت (نقطه جوش) مولکول‌های شیمیایی تشخیص دهد که دانشمندان ۷۵ سال به عنوان یک حقیقت علمی به آن اعتماد می‌کردند.
پژوهشگران دریافتند که مدل‌های جدید مانند GPT-5 و سیستم‌های هوشمند گوگل می‌توانند صدها خطای عددی و معادله فنی را در پژوهش‌های علمی آشکار کنند.
چگونه یک خطا به «حقیقت علمی» تبدیل می‌شود؟
مشکل نقطه جوش شیمیایی: «سباستین بیوس»، شیمیدان تئوری در آزمایشگاه «ژجیانگ» در چین، از یک مدل هوش مصنوعی برای پیش‌بینی نقطه جوش فیزیکی استفاده کرد. هنگامی که آمارهای مدل با پایگاه داده تأییدشده متفاوت بود، ابتدا تصور کرد دستگاه دچار خطا شده است، اما بازگشت به منابع قدیمی ثابت کرد که مدل درست می‌گوید و پایگاه داده حاوی یک خطای چاپی قدیمی بوده است.
افزایش خطاها در پژوهش‌ها: بر اساس بررسی انجام‌شده روی ۳۱۶ خطای احتمالی در پژوهش‌ها، سیستم GPT-5 توانسته است با دقت ۸۳.۲ درصد خطاها را شناسایی کند. همچنین مشخص شد میانگین خطاها در پژوهش‌های کنفرانس «NeurIPS» از ۳.۸ خطا به ازای هر پژوهش در سال ۲۰۲۱، به ۵.۹ خطا در سال ۲۰۲۵ افزایش یافته است (یعنی معادل ۵۵ درصد رشد).
نقش گوگل و ابزارها: شرکت گوگل یک ایجنت هوشمند (AI Agent) توسعه داده است که پیش از انتشار پژوهش‌ها، تمامی آزمایش‌ها و معادلات را بررسی می‌کند تا خطاها را آشکار سازد، اما تصمیم نهایی را به انسان واگذار می‌کند.
محدودیت توانایی‌ها: آزمایش‌های مستقل نشان داده‌اند که هوش مصنوعی هنوز نمی‌تواند جایگزین درک عمیق علمی شود؛ عملکرد آن در آشکارسازی خطاهای عددی و معادلات بسیار بهتر از تحلیل تئوری است.
تغییر چشم‌انداز: دستگاهی که پیش‌تر به تولید اطلاعات نادرست متهم می‌شد، اکنون به ابزاری برای آشکار کردن خطاهای انسانی تبدیل شده است؛ به این شرط که به آن اختیار مطلق داده نشود و صرفاً به عنوان یک ممیز و ویراستار مورد استفاده قرار گیرد.
