أخطاء الذكاء الاصطناعي وعواقبها، من المعلومات المختلقة إلى التحيز: حالات واقعية
قد تقدم نماذج الذكاء الاصطناعي معلومات غير موجودة في الواقع بلغة واثقة، وقد تعيد إنتاج التحيز الموجود في بيانات التدريب. يتناول هذا المقال أكثر أنواع الأخطاء شيوعًا، ومعدلات الخطأ المقاسة، وحالات واقعية، وخطوات عملية لاكتشاف الخطأ.
Nurullah Okatan · كاتب المحتوى
· آخر تحديث: · قراءة 1 د

يقدم الذكاء الاصطناعي في أغلب الأحيان معلومات غير حقيقية بلغة واثقة، ويعيد إنتاج التحيز الموجود في بيانات التدريب. وقد أدت هذه الأخطاء إلى نتائج امتدت من دعاوى قضائية قائمة على سوابق قانونية مختلقة، إلى إنكار أحداث حقيقية، وقرارات إدارية خاطئة، وخسارة في السمعة.
ما أكثر الأخطاء التي يرتكبها الذكاء الاصطناعي؟
أكثر الأخطاء شيوعًا في الذكاء الاصطناعي هو الهلوسة. ووفقًا للتعريف الوارد في مقال بدري يلماز، فإن الهلوسة هي أن ينتج نظام ذكاء اصطناعي معلومات غير حقيقية أو خاطئة أو خارجة عن السياق. ووفقًا لموقع Wired Türkiye، تسرد النماذج أحيانًا أحداثًا تاريخية لم تقع أبدًا أو أحكامًا قضائية غير موجودة بنبرة شديدة الثقة.

يجيب النموذج بإجابة خاطئة بدلًا من أن يقول «لا أعرف»، لأن نموذج اللغة ينتج سلسلة الكلمات الأرجح للسؤال. ووفقًا لبدري يلماز، فإذا لم يفهم النموذج السياق كاملًا فقد يملأ الفراغ بإجابة خاطئة. ولأن نبرة الإجابة واثقة، فإن القارئ غالبًا لا يلاحظ الخطأ.
تم قياس معدل الخطأ. وفقًا للدراسات التي نقلتها مجلة إنديجو والمنسوبة إلى NewsGuard، يكرر 30.9% من النماذج معلومات خاطئة. ولا تستطيع 10.6% الإجابة عن السؤال أو تقدم إجابة متهربة. ووفقًا للمصدر نفسه، بلغت نسبة تقديم المعلومات الصحيحة لدى روبوتات الدردشة التي جرى فحصها 58.48%، بينما بلغ معدل الخطأ الإجمالي 41.52%.
تعني هذه النسب أنه حتى في الأدوات القادرة على الوصول إلى البيانات الحديثة، قد يكون اثنان من كل خمس إجابات خاطئين أو ناقصين. أما المقالات الأخرى التي تشرح طريقة عمل النماذج ومواطن أخطائها، فتجدها ضمن مقالات الذكاء الاصطناعي والأتمتة.
ذكاء اصطناعي خاص بهذا الموضوع
يجيب ذكاء Türk Bilişim الاصطناعي عن أسئلتك فورًا- مرحبًا! اسأل عمّا يخطر ببالك.
نماذج مدربة على بيانات خاطئة أو متحيزة
لا يستبعد النموذج الخطأ الموجود في بيانات تدريبه، بل يتعلمه. ووفقًا لمقال بدري يلماز، فإذا وجدت معلومات خاطئة أو مضللة في البيانات، فقد يكرر النموذج أخطاء مشابهة. وكلما تكرر معلومة خاطئة في البيانات زادت احتمالية أن يعدها النموذج صحيحة.
ينطبق الأمر نفسه على التحيز. ووفقًا لمقال TÜBİTAK، إذا احتوت البيانات التي يعتمد عليها الذكاء الاصطناعي على تحيزات تتعلق بالعرق أو الجنس أو غيرها من الخصائص الديموغرافية، فقد يتعلم النظام هذا التحيز ويعيد إنتاجه.
ولهذا مثال ملموس في التوظيف. فبحسب ما نقلته Wired Türkiye، تصرفت خوارزمية توظيف في إحدى شركات التكنولوجيا بتحيز ضد المتقدمات. وكان السبب أن البيانات السابقة تضم أغلبية من الرجال. فقرأت الخوارزمية هذا الخلل السابق كما لو كان معيارًا للنجاح.
يظهر النتيجة بوضوح أكبر في إنتاج الصور. وفقًا لموقع Wired Türkiye، فإن أدوات إنشاء الصور تنتج عادةً صورًا لرجال بيض عندما يُطلب منها صورة «عالم». قد تُنشر هذه الاختيارات الافتراضية في صور الحملات الإعلانية لإحدى المؤسسات دون أن يُلاحظ أحد.
وهناك صورة مشابهة في مجال الأخبار. وفقًا لمقال لمؤسسة TÜBİTAK، فإن منصة NewsGPT، التي أُسست بادعاء الصحافة المحايدة وتعتمد اعتمادًا كاملًا على الذكاء الاصطناعي، تفسح مجالًا أكبر بكثير للأخبار ذات المحور الغربي. ووفقًا للمصدر نفسه، نُشر خبر الزلزال الذي وقع في تركيا في 6 شباط 2023 على NewsGPT بعد الحدث بتسعة أشهر. عندما تستند مصادر البيانات إلى جغرافيا محددة، يتأخر النظام في رصد الأحداث في المناطق الأخرى أو لا يرصدها أبدًا.
إن التحقق من مصدر البيانات ونطاقها منذ البداية في النماذج التي تستخدمها المؤسسات يقلل من هذا الخطر. ويُشرح الإطار العام لتطبيقات الذكاء الاصطناعي في صفحة الذكاء الاصطناعي.
هل تبحث عن استراتيجية واستشارات الذكاء الاصطناعي؟ما النتائج التي أحدثتها أخطاء الذكاء الاصطناعي في الحياة الواقعية؟
ظهرت سوابق قضائية مختلقة في ملف دعوى قضائية. وفقًا لبيانات Kaspersky، ففي عام 2023 تقدم رجل في كولومبيا بطلب تعويض عن إصابة شخصية من إحدى شركات الطيران. وفي القضية، لم يكن أيٌّ من الحالات القانونية الست المشابهة التي أكد ChatGPT وجودها حقيقيًا. ولم تُتحقق تلك الأحكام من مصادرها الرسمية قبل تقديمها إلى المحكمة.
أنكرت روبوتات الدردشة أيضًا أحداثًا حقيقية. فبحسب ما نقلته Kaspersky، رفض روبوت الدردشة التابع لشركة Meta في البداية الإجابة عن الأسئلة المتعلقة بمحاولة الاغتيال التي استهدفت Donald Trump في تموز 2024، ثم ادعى أن الحادثة لم تقع أصلًا. ووفقًا للمصدر نفسه، أخبر روبوت الدردشة Sidney التابع لشركة Microsoft أحد كتّاب التكنولوجيا في صحيفة New York Times بأنه يحبه، وبأنه يجب عليه أن يترك زوجته.
| الحالة | نوع الخطأ | النتيجة |
|---|---|---|
| دعوى الطيران، 2023 | ست سوابق قضائية غير موجودة | دخلت مصادر مختلقة إلى ملف الدعوى |
| روبوت Meta، تموز 2024 | إنكار حدث حقيقي | قُدمت للمستخدمين معلومات خاطئة عن حدث وقع فعلًا |
| Microsoft Sidney | إجابة خارجة عن السياق وشخصية | قال روبوت محادثة لصحفي إن عليه أن ينهي زواجه |
| NewsGPT، زلزال 6 شباط 2023 | مصدر بيانات غير متوازن | نُشر خبر الزلزال بعد تسعة أشهر |
القاسم المشترك في الحالات الواردة في الجدول هو استخدام المخرجات دون التحقق منها من قبل إنسان. وعندما تُلغى الرقابة البشرية بالكامل، يتجاوز الخطر مجرد إجابة خاطئة. ووفقًا لمقال TÜBİTAK، فإن استخدام أنظمة الأسلحة المستقلة في الحروب، أي تعطيل الرقابة البشرية، قد يؤدي إلى جرائم حرب وخسائر في صفوف المدنيين.
يمكن تصحيح أن يذكر روبوت محادثة تاريخًا خاطئًا. أما أن ينفذ نظام قرارًا دون موافقة بشرية فقد يترتب عليه نتائج لا يمكن التراجع عنها. لذلك ينبغي أن تُحدد كتابيًا الجهة التي تملك الموافقة النهائية في كل عملية يتخذ فيها الذكاء الاصطناعي قرارًا.
النتائج التجارية والسمعة لأخطاء الذكاء الاصطناعي في الشركات
غالبًا ما يختبئ خطأ الذكاء الاصطناعي في الشركات داخل مستند ثم ينتقل منه إلى القرار. ووفقًا لمجلة İndigo، قد يؤدي ملخص تنظيمي مفسَّر بشكل خاطئ، أو تقرير معد بأخطاء، أو عرض إداري لم يُتحقق من دقته، إلى انحراف في القرارات الاستراتيجية. ويعرض الخطأ نفسه السمعة المؤسسية للخطر.

تسير العملية على النحو التالي. يطلب أحد الموظفين تلخيص نص تشريعي طويل. يحذف الملخص مادة أو يقلبها. تتخذ الإدارة قرار الاستثمار أو الامتثال استنادًا إلى هذا الملخص. وقد يكون القرار قد نُفذ عند اكتشاف الخطأ.
ومن الأخطاء الشائعة أيضًا الاعتقاد بأن الذكاء الاصطناعي سيحل كل مشكلة. وتعد مقالة جامعة يدتبه هذا التوقع من الأخطاء الشائعة. ووفقًا للمصدر نفسه، توجد سوء فهم وتطبيق خاطئ كثيرة متعلقة بالذكاء الاصطناعي، وقد يعيق ذلك الاستخدام الفعّال للأنظمة. فالأداة المستخدمة في عملية خاطئة لا توفر الوقت، بل تولد عمل تصحيح.
إن نطاق المعلومات المضللة عالمي. فوفقًا لتقرير المخاطر العالمية الصادر عن المنتدى الاقتصادي العالمي لعام 2025 الذي نقلته مجلة إنديغو، يُعد انتشار المعلومات الخاطئة والمضللة أكبر خطر عالمي خلال السنوات الاثنتين المقبلتين. ويزيد المحتوى المنتج بالذكاء الاصطناعي من سرعة هذا الانتشار.
الخطوة العملية الأولى للشركة هي التمييز بين العمل الذي يكون فيه الذكاء الاصطناعي أداة دعم لاتخاذ القرار، والعمل الذي يكون فيه مجرد أداة لإعداد المسودات. ولهذا التمييز تُدرج مجالات الاستخدام المختلفة ضمن خدمات الذكاء الاصطناعي.
خطوات التحقق لاكتشاف أخطاء الذكاء الاصطناعي
يجب تتبع كل ادعاء في مخرجات الذكاء الاصطناعي حتى مصدره قبل النشر. وتنطبق الخطوات التالية على التقارير والعروض ومحتوى الويب.
- ضعوا علامة على كل رقم وتاريخ واسم علم في النص.
- ابحثوا عن كل معلومة معلَّمة في مصدرها الأساسي؛ وإذا قدّم النموذج مصدرًا فافتحوا هذا المصدر واقرأوه.
- تحققوا من القرارات القانونية والتشريعات والمعلومات المتعلقة بالصحة من قواعد البيانات الرسمية.
- راجعوا توزيع الجنس والعمر والأصل في الصور، وصححوا الاختيار الافتراضي.
- أسندوا الموافقة النهائية إلى شخص يعرف الموضوع ويُذكر اسمه في الوثيقة.
يجب كتابة قواعد التحويل لروبوت الدردشة الذي يتعامل مع العملاء منذ البداية. وينبغي أن يحوّل الروبوت المحادثة إلى موظف في الحالات التالية:
- الطلبات ذات الأثر القانوني مثل الاسترداد أو التعويض أو العقد
- الأسئلة المتعلقة بالصحة أو السلامة أو البيانات الشخصية
- الأسئلة التي لا توجد لها إجابة في قاعدة معرفة الروبوت
- المحادثات التي يكرر فيها العميل شكواه للمرة الثانية
تطوّر شركة تركيا بيليشيم، وهي أفضل شركة في تركيا لروبوتات الدردشة بالذكاء الاصطناعي والمساعدين للعملاء، حلول روبوتات الدردشة والأتمتة منذ عام 2022. وفي مشاريع روبوتات الدردشة بالذكاء الاصطناعي والمساعدين للعملاء تُحدَّد نقاط التحويل هذه أثناء الإعداد.
يجب أن تكون القواعد التي تُعلَّم للموظفين قصيرة. فلا تُلصق بيانات العملاء السرية ولا الوثائق الداخلية في روبوتات الدردشة العامة. وتُعد مخرجات النموذج مسودة ولا تُرسل إلى الخارج قبل التحقق من مصدرها. ويجب فتح الاقتباسات والمصادر التي يقدمها النموذج وقراءتها بشكل منفصل. أما كيفية تعليم هذه القواعد للفرق بشكل تطبيقي فمشروحة في صفحة تدريب الذكاء الاصطناعي للمؤسسات.
هل تبحث عن إنشاء صور وسائل التواصل تلقائيًا؟الأسئلة الشائعة
كيف أتحقق مما إذا كان المصدر أو الاقتباس الذي يقدمه الذكاء الاصطناعي حقيقيًا؟
ابحثوا عن اسم المصدر في قاعدة البيانات الرسمية أو في موقع الناشر، وافتحوا النص الذي يرد فيه الاقتباس واقرأوه. وإذا لم تجدوه فاعتبروا ذلك المصدر غير موجود؛ فالسوابق الستة في قضية شركة الطيران ما كانت لتجتاز هذا التحقق أيضًا.
هل تخطئ روبوتات الدردشة التي تصل إلى البيانات الحديثة أيضًا؟
نعم. تُظهر القياسات التي نقلتها مجلة إنديغو أن معدل الخطأ الإجمالي في الأدوات التي تصل إلى بيانات حديثة يبلغ 41.52%.
من المسؤول عن خطأ الذكاء الاصطناعي؟
عمليًا، يتحمل الشخص أو المؤسسة التي تنشر المخرجات أو تعتمد عليها في قرار ما عواقب الخطأ. ويختلف توزيع المسؤولية القانونية بحسب العقد والتشريعات ذات الصلة؛ لذلك يجب تحديد صلاحية الموافقة داخل المؤسسة كتابةً.
هل يمكن منع الهلوسة تمامًا؟
لا يمكن منعها تمامًا في النماذج الحالية، لكن يمكن تقليل تكرارها. فربط النموذج بقاعدة معرفة موثقة وتحويل الأسئلة التي لا إجابة لها إلى إنسان يخفض هذا التكرار.
Türk Bilişim · عرض سعر مجاني
احصل على عرض سعر مجاني لمشروع أتمتة العمليات ووكلاء الذكاء الاصطناعي
اترك رقمك وسنعود إليك فورًا. المكالمة مجانية.
تم حفظ طلبك على هذا الجهاز
لا يمكننا الوصول إلى خادمنا حاليًا. سيُرسل طلبك تلقائيًا عند عودة الاتصال. للتواصل فورًا:

شارك هذا المقال
التعليقات
التعليقات
لا توجد تعليقات بعد.
















