هلاوس الذكاء الاصطناعي تهدد مصداقية التصنيع: دروس من CiteSentinel

عندما "يكذب الذكاء الاصطناعي بثقة": أزمة ثقة جديدة تواجه قطاع التصنيع

في أبريل 2025، أطلقت الشركة الناشئة في مجال التكنولوجيا القانونية BrentWorks منصة CiteSentinel - وهي منصة متخصصة في اكتشاف ومنع الهلوسة في الاستشهادات القانونية بالذكاء الاصطناعي. تقوم هذه الأداة بمسح المستندات القانونية، وتمييز السوابق القضائية واللوائح والسلطات القانونية التي قد تكون مختلقة أو مستشهد بها بشكل خاطئ. أشار برنت بريتون، المؤسس المشارك لـ BrentWorks، إلى أن المحاكم تفرض عقوبات بشكل متزايد على المحامين الذين يقدمون ملخصات تحتوي على حالات وهمية، وهو من الآثار الجانبية النموذجية لأدوات الذكاء الاصطناعي التوليدية "التي تنتج سلطات قانونية تبدو موثوقة ولكنها مختلقة تمامًا".

على الرغم من أن CiteSentinel يركز حاليًا على المجال القانوني، إلا أن المشكلة الكامنة وراءه - هلوسات الذكاء الاصطناعي - تتسرب إلى قطاع التصنيع بطريقة مماثلة. من عقود سلسلة التوريد والمواصفات الفنية إلى وثائق الامتثال التنظيمي، يتزايد استخدام المحتوى المولد بالذكاء الاصطناعي بشكل واسع، وقد تكون المخاطر الناجمة عن "الهلوسة" أبعد بكثير من المجال القانوني.

هلوسات الذكاء الاصطناعي في التصنيع: "عيوب الجودة" الخفية

في عملية رقمنة التصنيع، يُستخدم الذكاء الاصطناعي لإنشاء أوامر الشراء والمعايير الفنية وتخطيطات المصانع وحتى أكواد البرمجة الآلية بشكل تلقائي. ومع ذلك، على غرار المجال القانوني، قد تختلق هذه الأدوات بنود شراء غير موجودة، وتفبرك معايير أداء المواد، أو تستشهد بشكل خاطئ بالمعايير الدولية المطبقة. وصف بريتون ذلك بشكل تصويري: "الذكاء الاصطناعي سيكذب في وجهك بثقة". في سياق التصنيع، يمكن أن تؤدي هذه "الأكاذيب" بشكل مباشر إلى توقف خطوط الإنتاج، وحوادث جودة المنتج، وحتى انتهاك لوائح مراقبة الصادرات.

خذ مثالاً على التصنيع في مجال التكنولوجيا الحيوية، فإن إطلاق CiteSentinel بحد ذاته يشير إلى هشاشة هذا المجال. أكد بريتون أن قضايا التكنولوجيا الحيوية تعتمد غالبًا على أدلة تقنية عالية التخصص - مطالبات براءات الاختراع، البيانات السريرية، تاريخ التنظيم من إدارة الغذاء والدواء الأمريكية، المنشورات العلمية، إلخ. قد تختلق أنظمة الذكاء الاصطناعي "مراجع علمية غير موجودة، وتفسر إرشادات إدارة الغذاء والدواء بشكل خاطئ، وتفبرك سوابق براءات الاختراع". في مراحل البحث والتطوير والتدقيق على الامتثال في التصنيع، ليست سيناريوهات مماثلة نادرة: قد يختلق الذكاء الاصطناعي بيانات اختبار إجهاد المواد، أو يستشهد بشكل خاطئ بمعايير الصناعة، وإذا لم يتحقق المهندس من ذلك، فقد يتم إدخال التصميم الخاطئ إلى الإنتاج الضخم.

من القانون إلى الصناعة: وجوه مختلفة لنفس المشكلة

أشار بريتون إلى أن العديد من المحامين الذين لم يستخدموا الذكاء الاصطناعي بأنفسهم لصياغة المستندات أصبحوا أيضًا ضحايا - فقد يستخدم المحامون الخصوم، المحامون المشاركون، محامو العقود، وحتى المساعدون القانونيون الذكاء الاصطناعي دون الإفصاح عن ذلك. الوضع مشابه في سلاسل التوريد التصنيعية: قد تحتوي إعلانات الامتثال التقني المولدة بالذكاء الاصطناعي ووثائق ضمان الجودة من الموردين على محتوى هلوسة، وعندما يعتمد المشتري على هذه الوثائق في اتخاذ القرارات، يتم نقل المخاطر إلى أسفل.إليك الترجمة إلى العربية:

تصميم CiteSentinel يقدم نموذجًا يُحتذى به للصناعة التحويلية. على عكس منصات البحث التقليدية التي "تركز على إيجاد المزيد من المعلومات"، فإن الفكرة الأساسية لـ CiteSentinel هي "التحقق من صحة المحتوى المُقتبَس". وهذا يعكس حاجة ملحة للصناعة التحويلية تجاه المحتوى المُنتَج بالذكاء الاصطناعي: الحاجة إلى طبقة "فحص الصحة" قبل اعتماد المواصفات الفنية أو بنود العقود أو تقارير تقييم المخاطر المُنتَجة بالذكاء الاصطناعي.

معركة مصداقية الذكاء الاصطناعي الصناعي

بrent Hunter، المؤسس المشارك لـ BrentWorks، طبّق الشبكات العصبية في المجال المالي منذ عام 1993، ويتوقع أن يكون CiteSentinel مجرد بداية لسلسلة من المنتجات. بالنسبة للصناعة التحويلية، قد تركز أدوات مماثلة على التحقق من المراجع الرقمية في الوثائق الفنية (مثل معايير ISO، طرق اختبار ASTM)، والبيانات الرئيسية في تقارير التدقيق، وحتى قانونية رموز الإنتاج الآلي.

يتنبأ Britton أنه مع توسع CiteSentinel من التحقق من الاستشهادات الحالية إلى مجالات أوسع، "سيصبح طبقة الحقيقة التي تُبقي جميع المشاركين صادقين". في الوقت الذي تعتمد فيه الصناعة التحويلية العالمية بشكل متزايد على الذكاء الاصطناعي في اتخاذ القرارات، فإن إنشاء مثل هذه "طبقة الحقيقة" ليس مجرد متطلب للامتثال القانوني، بل هو أساس الحفاظ على ثقة سلسلة التوريد. من معايير العمليات في مصانع أشباه الموصلات إلى شهادات بطاريات السيارات الكهربائية، يجب أن تكون كل معلومة يُنتجها الذكاء الاصطناعي قابلة للتتبع إلى مصدر بيانات موثوق.

الخلاصة: الصناعة التحويلية بحاجة إلى "CiteSentinel" خاص بها

يُحذّر إطلاق CiteSentinel الصناعة التحويلية: قد تصاحب مزايا الكفاءة التي يوفرها الذكاء الاصطناعي مخاطر منهجية من الهلوسة. بالنسبة لصانعي القرار في المؤسسات الصناعية، فإن الأولوية العاجلة هي إنشاء آلية تحقق تبادلي مشابهة على المستوى القانوني — سواء بالنسبة لبنود العقود التي صاغها الذكاء الاصطناعي، أو تقارير العمليات التي أنشأها الذكاء الاصطناعي. وكما قال Britton: "القانون دائمًا لعبة عالية المخاطر، والآن تلعب الآلات هذه اللعبة بأوراق مركبة." الأمر نفسه ينطبق على الصناعة التحويلية: فقط عندما يتطابق المحتوى المُنتَج بالذكاء الاصطناعي بشكل صارم مع القوانين الفيزيائية والكيميائية والهندسية في العالم الحقيقي، يمكن تحقيق رؤية المصنع الرقمي.