هوش مصنوعی قابل اعتماد: چرا تاب‌آوری مهم‌تر از دقت است؟
هوش مصنوعی قابل اعتماد: چرا تاب‌آوری مهم‌تر از دقت است؟
در دهه گذشته، هوش مصنوعی بیش از هر چیز با سرعت، مقیاس و مدل‌های عظیم شناخته شده است. اما در پس این پیشرفت‌های چشمگیر، واقعیتی نگران‌کننده پنهان است: شکاف فزاینده‌ای در قابلیت اتکای سامانه‌های هوشمند. بسیاری از مدل‌ها در آزمایشگاه عالی عمل می‌کنند، اما هنگام ورود به محیط واقعی با مشکلاتی چون افزایش تاخیر، خطاهای پیکربندی یا هزینه‌های غیرقابل‌پیش‌بینی روبه‌رو می‌شوند.
به گزارش نیوزلن و به نقل از Analytics Insight، پریتویراج کومار دساری، مهندس ارشد نرم‌افزار و نویسنده DZone، معتقد است پیشرفت واقعی در هوش مصنوعی نه از افزایش جزئی دقت مدل‌ها، بلکه از مقاوم‌سازی زیرساخت‌های پشتیبان آنها حاصل می‌شود. او می‌گوید: «اعتماد زمانی معنا دارد که سامانه در میلیون‌ها سناریوی غیرمنتظره، همچنان پایدار بماند.»
بر اساس گزارش‌های گارتنر و مک‌کینزی، تا پایان سال ۲۰۲۷ بیش از ۴۰ درصد از پروژه‌های موسوم به «هوش مصنوعی عاملی» به دلیل افزایش هزینه‌ها و نبود کنترل ریسک شکست خواهند خورد. همچنین حدود ۸۵ درصد از پروژه‌های هوش مصنوعی ارزش وعده‌داده‌شده خود را محقق نمی‌کنند که عمدتاً ناشی از کیفیت پایین داده‌ها یا ضعف طراحی زیرساخت است.
دساری با تجربه بنیان‌گذاری استارتاپ BookCab در هند و مواجهه با دشواری‌های هماهنگی سیستم‌های توزیع‌شده، بر طراحی مقاوم در برابر خطا تأکید دارد. او اکنون در طراحی زیرساخت‌های جست‌وجو و شاخص‌گذاری برای میلیاردها درخواست روزانه فعال است و ابزارهایی برای افزایش قابلیت مشاهده و پیشگیری از خطا توسعه داده است. ابتکار او در ایجاد چارچوب ایمنی پیکربندی موجب شد خسارات ناشی از خاموشی‌های سیستمی تا حد چشمگیری کاهش یابد.
به گفته او، شاخص‌گذاری نه فقط باید سریع، بلکه باید دقیق، پایدار و مقاوم باشد. او فلسفه خود را چنین خلاصه می‌کند: «زیرساخت آماده برای هوش مصنوعی یعنی ساخت سیستمی که فرض بر شکست دارد و برای بقا طراحی شده است.»
به باور دساری، دهه آینده با تغییر معیار موفقیت همراه خواهد بود. دیگر حجم مدل معیار پیشرفت نیست، بلکه قابلیت اعتماد و توانایی سامانه در پیش‌بینی شکست‌ها معیار نوین است. او در مقاله اخیر خود در DZone نشان داده است که چطور حتی تغییرات کوچک در معماری داده می‌تواند پایداری را به‌شکل چشمگیری افزایش دهد.
در جهانی که هوش مصنوعی به حوزه‌هایی چون سلامت، مالی و زیرساخت‌های حیاتی نفوذ کرده است، تاب‌آوری دیگر یک انتخاب نیست بلکه ضرورت بقاست. همان‌طور که دساری می‌گوید: «در هوش مصنوعی، قابلیت اعتماد، معیار واقعی پیشرفت است.»
