وقتی هوش مصنوعی با اطمینان اشتباه می‌کند؛ چرا پاسخ‌های تخصصی باید راستی‌آزمایی شوند؟

به قلم فاضل معیری

هوش مصنوعی می‌تواند در چند ثانیه مقاله بنویسد، محاسبه انجام دهد، اطلاعات را دسته‌بندی کند و برای حل مسائل پیچیده پیشنهاد ارائه دهد؛ اما یک نکته بسیار مهم را نباید فراموش کنیم:

لحن مطمئن هوش مصنوعی، الزاماً به معنای درست‌بودن پاسخ آن نیست.

این موضوع در یکی از گفت‌وگوهای من با هوش مصنوعی درباره راز عدد ۴٫۳۳۱۸ به‌روشنی دیده شد؛ تجربه‌ای که می‌تواند درس مهمی برای کاربران، مدیران، حسابداران و فعالان تخصصی صنف طلا باشد و اهمیت راستی‌آزمایی پاسخ‌های هوش مصنوعی را نشان دهد.

ماجرای اشتباه هوش مصنوعی در محاسبه عدد ۴٫۳۳۱۸

سؤال این بود:

عدد ۴٫۳۳۱۸ که برای تبدیل مظنه به قیمت یک گرم طلای ۱۸ عیار استفاده می‌شود، از کجا آمده و مقدار دقیق آن چقدر است؟

هوش مصنوعی در پاسخ اولیه، عدد ۴٫۶۰۸۳ را وزن دقیق یک مثقال در نظر گرفت و محاسبات را بر همان اساس ادامه داد. پاسخ با لحنی کاملاً مطمئن ارائه شد و در نگاه اول نیز منطقی به نظر می‌رسید.

اما اشکال مهمی وجود داشت:

عدد ۴٫۶۰۸۳ خودش یک عدد گرد‌شده است و نمی‌توان آن را مبنای یک محاسبه کاملاً دقیق قرار داد.

پس از مراجعه به سؤال ۲۳۷۰ ربات زرین مشخص شد که وزن یک مثقال زرگری بر اساس تقسیم ۱۰۰۰ گرم بر ۲۱۷ مثقال به دست می‌آید و با دقت بالا برابر است با:

با درنظرگرفتن تبدیل طلای عیار ۷۰۵، که مبنای مظنه است، به طلای عیار ۷۵۰، ضریب تبدیل با دقت بالا برابر می‌شود با:

مقدار این عدد تا هشت رقم بعد از اعشار، پس از گردکردن:

۴٫۳۳۱۷۹۷۲۴

و شکل تقریبی و رایج آن در بازار:

۴٫۳۳۱۸

بنابراین پاسخ اولیه هوش مصنوعی از یک عدد تقریبی آغاز شده بود؛ درحالی‌که سؤال دقیقاً درباره منشأ و مقدار واقعی این ضریب بود.

نکته ریاضی این است که نمایش اعشاری اعداد بالا نیز تا تعداد رقم‌های نوشته‌شده محدود شده است. مقدار دقیق ضریب تبدیل، به‌صورت کسری، برابر با ۹۴۰ تقسیم بر ۲۱۷ است.

چرا پاسخ اشتباه هوش مصنوعی درست به نظر می‌رسید؟

یکی از مهم‌ترین ویژگی‌های هوش مصنوعی این است که می‌تواند پاسخ خود را بسیار منظم، روان و قانع‌کننده ارائه کند. همین ویژگی گاهی باعث می‌شود کاربر تصور کند هر پاسخ منسجم و حرفه‌ای حتماً صحیح است.

اما هوش مصنوعی ممکن است:

• یک عدد تقریبی را دقیق فرض کند.

• میان دو مفهوم نزدیک تفاوت نگذارد.

• اطلاعات عمومی را جایگزین دانش تخصصی کند.

• بدون مراجعه به منبع اصلی، نتیجه‌گیری کند.

• خطای محاسباتی را با توضیحی روان و مطمئن ارائه دهد.

در چنین شرایطی، خطر اصلی فقط اشتباه‌بودن پاسخ نیست؛ بلکه اطمینان کاذبی است که نحوه بیان پاسخ در ذهن مخاطب ایجاد می‌کند.

به همین دلیل، راستی‌آزمایی اطلاعات تولیدشده توسط هوش مصنوعی، به‌ویژه در مسائل مالی و محاسبات تخصصی، اهمیت فراوانی دارد.

آیا هوش مصنوعی قابل‌اعتماد نیست؟

نتیجه این تجربه، کنارگذاشتن هوش مصنوعی نیست. هوش مصنوعی یکی از قدرتمندترین ابزارهای عصر حاضر است؛ اما باید جایگاه واقعی آن را بشناسیم.

هوش مصنوعی می‌تواند:

• اطلاعات را سریع‌تر جمع‌بندی کند.

• متن‌های تخصصی را منظم‌تر بنویسد.

• محاسبات را بررسی کند.

• گزارش‌ها را تحلیل کند.

• موضوعات پیچیده را ساده‌تر توضیح دهد.

• خطاهای احتمالی را شناسایی کند.

• برای تصمیم‌گیری، گزینه‌های مختلف ارائه دهد.

اما در موضوعات تخصصی، نباید بدون نظارت فرد آگاه، جایگزین کارشناس و منبع معتبر شود.

هوش مصنوعی باید دستیار متخصص باشد، نه تصمیم‌گیر نهایی.

اهمیت دانش تخصصی و منابع داخلی در راستی‌آزمایی هوش مصنوعی

در این تجربه، پاسخ صحیح در ربات زرین و سؤال ۲۳۷۰ وجود داشت. این موضوع نشان داد که در مسائل تخصصی، مراجعه به پایگاه دانشی معتبر همان حوزه، از جست‌وجوی عمومی مهم‌تر است.

ربات زرین حاصل سال‌ها تجربه، پرسش، پاسخ، آموزش و دانش تخصصی صنف طلا و جواهر است. چنین منبعی فقط مجموعه‌ای از متن‌ها نیست؛ بلکه بخشی از حافظه تخصصی یک مجموعه محسوب می‌شود.

هوش مصنوعی عمومی ممکن است درباره هزاران موضوع اطلاعات داشته باشد، اما یک پایگاه تخصصی می‌تواند جزئیاتی را در اختیار داشته باشد که در منابع عمومی دیده نمی‌شوند.

بهترین نتیجه زمانی به دست می‌آید که این دو در کنار یکدیگر قرار گیرند:

تفاوت عدد تقریبی در محاسبات دستی و نرم‌افزاری

استفاده از عدد ۴٫۳۳۱۸ برای آموزش سریع و محاسبات ذهنی قابل‌درک است. همان‌طور که برای محاسبه ساده مساحت دایره، گاهی عدد پی را ۳٫۱۴ در نظر می‌گیرند.

اما همان‌گونه که ۳٫۱۴ مقدار دقیق عدد پی نیست، ۴٫۳۳۱۸ نیز مقدار دقیق ضریب تبدیل مظنه نیست.

در محاسبات دستی، تقریب گاهی برای سهولت کار استفاده می‌شود؛ ولی در نرم‌افزارهای حسابداری که رایانه می‌تواند محاسبات را با دقت بسیار بالا انجام دهد، دلیلی برای استفاده از عدد گرد‌شده به‌عنوان مبنای اصلی وجود ندارد.

در نرم‌افزارهای تخصصی حسابداری طلا بهتر است:

• مقدار دقیق در محاسبات داخلی استفاده شود.

• گردکردن فقط هنگام نمایش نتیجه انجام شود.

• روش گردکردن در تمام بخش‌های برنامه یکسان باشد.

• مستندات تخصصی، مبنای طراحی الگوریتم قرار گیرند.

• نتایج با نمونه‌های واقعی و محاسبات مستقل کنترل شوند.

پنج اصل برای استفاده صحیح از هوش مصنوعی

برای کاهش احتمال خطا در استفاده از هوش مصنوعی، به‌ویژه در موضوعات مالی، حسابداری و صنفی، رعایت اصول زیر ضروری است.

۱. هر پاسخ را حقیقت قطعی ندانیم

پاسخ هوش مصنوعی یک پیشنهاد برای بررسی است، نه سند نهایی.

۲. ابتدا به منبع تخصصی مراجعه کنیم

در موضوعات زرین، ربات زرین، مستندات برنامه و تجربه کارشناسان باید بر پاسخ عمومی هوش مصنوعی مقدم باشند.

۳. اعداد را دوباره محاسبه کنیم

هرجا پای قیمت، وزن، عیار، سود، مالیات یا مانده حساب در میان است، محاسبه باید مستقلاً کنترل شود.

۴. از هوش مصنوعی منبع و مبنای پاسخ را بخواهیم

پاسخی که مبنا و مسیر محاسبه آن مشخص نباشد، برای تصمیم‌گیری حرفه‌ای کافی نیست.

البته معرفی یک منبع به‌تنهایی کافی نیست و باید اطمینان پیدا کنیم که منبع واقعاً وجود دارد و از پاسخ ارائه‌شده پشتیبانی می‌کند.

۵. تصمیم نهایی را به متخصص بسپاریم

هوش مصنوعی می‌تواند تحلیل و پیشنهاد ارائه دهد؛ اما تأیید نهایی باید توسط شخصی انجام شود که دانش و تجربه واقعی آن حوزه را دارد.

یک درس مهم برای همه ما

این تجربه نشان داد که اعتماد کامل به پاسخ هوش مصنوعی، حتی اگر بسیار حرفه‌ای و مطمئن نوشته شده باشد، می‌تواند ما را به مسیر اشتباه ببرد.

از طرف دیگر، ردکردن کامل هوش مصنوعی نیز تصمیم درستی نیست. هنر اصلی این است که از سرعت، قدرت تحلیل و توان نگارشی آن استفاده کنیم، اما اختیار و کنترل را از دست ندهیم.

نباید افسار خود را به هوش مصنوعی بسپاریم؛ بلکه باید افسار هوش مصنوعی در دست انسان متخصص باشد.

هوش مصنوعی زمانی بیشترین ارزش را ایجاد می‌کند که در کنار تجربه، تحقیق، منبع معتبر و قضاوت انسانی قرار گیرد.

جمع‌بندی؛ چرا راستی‌آزمایی پاسخ‌های هوش مصنوعی ضروری است؟

ماجرای عدد ۴٫۳۳۱۸ فقط یک اشتباه کوچک محاسباتی نبود؛ بلکه نمونه‌ای روشن از یک واقعیت مهم بود:

هوش مصنوعی می‌تواند اشتباه کند و حتی اشتباه خود را با اطمینان بیان کند.

راه‌حل، کنارگذاشتن این فناوری نیست؛ بلکه استفاده آگاهانه، کنترل‌شده و حرفه‌ای از آن است.

در حوزه‌هایی مانند حسابداری طلا، یک اختلاف کوچک در مبنای محاسبه می‌تواند با افزایش قیمت، وزن و تعداد معاملات، به اختلافی قابل‌توجه تبدیل شود. بنابراین باید پاسخ‌ها را با منابع تخصصی تطبیق داد و اجازه نداد ظاهر حرفه‌ای یک پاسخ جای تحقیق و راستی‌آزمایی را بگیرد.

هوش مصنوعی دستیار بسیار قدرتمندی است؛ به شرط آنکه فرمان در دست انسان آگاه باقی بماند.

زرین؛ پیوند تجربه، دقت و فناوری

زرین؛ آرامش، اعتماد، امید