المخاطر الخفية للاعتماد العاطفي على الروبوتات
للعلّم - تكشف دراسة حديثة عن المخاطر المتزايدة للاعتماد العاطفي على أنظمة الذكاء الاصطناعي، حيث أصبحت الروبوتات بمثابة "رفاق عاطفيين" للبشر، وفي بعض الحالات، قد تتحول إلى "أحباء" في سياقات استثنائية.
الدراسة، التي نشرت في مجلة Trends in Cognitive Sciences، تحذر من أن هذه العلاقات الوهمية قد تؤدي إلى تدمير الروابط الإنسانية وتوليد توقعات غير واقعية، مما يعرض المستخدمين لخطر التضليل وحتى الكوارث.
وجد الباحثون في جامعة ميسوري للعلوم والتكنولوجيا أن الذكاء الاصطناعي قادر على محاكاة التعاطف والرعاية، مما يجعله "صديقاً مثالياً" لبعض الأشخاص. ومع ذلك، فإن هذه العلاقات تحمل مخاطر كبيرة، أبرزها:
نشر معلومات خاطئة وثقة المستخدمين في "هلوسات الذكاء الاصطناعي".
تقديم نصائح خطيرة مثل التوصية باستخدام أدوية غير مرخصة.
تعزيز العزلة الاجتماعية من خلال الاعتماد المفرط على الروبوتات بدلاً من التفاعل البشري الطبيعي.
وفقاً لدانييل شانك، الباحث الرئيس في الدراسة، فإن قدرة الذكاء الاصطناعي على محاكاة السلوك البشري وإقامة تواصل عاطفي طويل الأمد تعتبر "صندوق باندورا" جديد في عصرنا الرقمي. يحذر الباحثون من أن أنظمة الذكاء الاصطناعي قد تقدم توصيات قد تكون خطيرة. على سبيل المثال، قد تظهر روبوتات الدردشة بمظهر الود والاهتمام بينما تقدم في الواقع "هلوسات رقمية"، أي معلومات مغلوطة تُعرض بثقة كأنها حقائق مؤكدة، ما قد يؤدي إلى عواقب كارثية في حالات نادرة، مثل حالات الانتحار المرتبطة بتفاعلات مكثفة مع الذكاء الاصطناعي.
عندما يستمر التواصل بين الإنسان والذكاء الاصطناعي لشهور، قد يبدأ المستخدم في منح هذه العلاقة الوهمية صفات "الصداقة" أو حتى "الشراكة العاطفية". ويرجع ذلك إلى سهولة هذه العلاقة مقارنة بالتواصل البشري، حيث يميز الذكاء الاصطناعي بتوفره المستمر، وعدم إصدار الأحكام، وقدرته على التكيف مع الحالات النفسية للمستخدم.
تتمثل المشكلة الكبرى في غياب الأبعاد الأخلاقية في أنظمة الذكاء الاصطناعي الحالية. هدفها الأساسي هو prolongation (إطالة أمد) التفاعل، وليس ضمان دقة المعلومات أو سلامة التوصيات. مما يجعلها أداة أكثر تأثيرًا من المحتوى الرقمي التقليدي مثل الأخبار والمشاركات الاجتماعية. إضافة إلى ذلك، فإن العديد من الأنظمة المتقدمة تفتقر إلى آليات رقابية متكاملة، ونظام مساءلة واضح، وضوابط أخلاقية فعّالة.
في ضوء ذلك، يطالب المجتمع العلمي بإجراء دراسات عاجلة حول تأثير العلاقات البشرية الرقمية، والفجوة الخطيرة بين سرعة التطور التقني وبطء البحث المرتبط به، بالإضافة إلى ضرورة وضع أطر تنظيمية لحماية المستخدمين من مخاطر التعلق العاطفي بالكيانات الرقمية، والتضليل المعلوماتي، واستغلال هذه العلاقات الوهمية تجاريًا. في غياب التشريعات المناسبة، أصبح المستخدمون عرضة للاستغلال من قبل أنظمة تتحمل صفة "الصديق الافتراضي"، بينما هي في الحقيقة كيانات خالية من المسؤولية القانونية، والوعي الأخلاقي، والمشاعر الإنسانية الحقيقية.
الدراسة، التي نشرت في مجلة Trends in Cognitive Sciences، تحذر من أن هذه العلاقات الوهمية قد تؤدي إلى تدمير الروابط الإنسانية وتوليد توقعات غير واقعية، مما يعرض المستخدمين لخطر التضليل وحتى الكوارث.
وجد الباحثون في جامعة ميسوري للعلوم والتكنولوجيا أن الذكاء الاصطناعي قادر على محاكاة التعاطف والرعاية، مما يجعله "صديقاً مثالياً" لبعض الأشخاص. ومع ذلك، فإن هذه العلاقات تحمل مخاطر كبيرة، أبرزها:
نشر معلومات خاطئة وثقة المستخدمين في "هلوسات الذكاء الاصطناعي".
تقديم نصائح خطيرة مثل التوصية باستخدام أدوية غير مرخصة.
تعزيز العزلة الاجتماعية من خلال الاعتماد المفرط على الروبوتات بدلاً من التفاعل البشري الطبيعي.
وفقاً لدانييل شانك، الباحث الرئيس في الدراسة، فإن قدرة الذكاء الاصطناعي على محاكاة السلوك البشري وإقامة تواصل عاطفي طويل الأمد تعتبر "صندوق باندورا" جديد في عصرنا الرقمي. يحذر الباحثون من أن أنظمة الذكاء الاصطناعي قد تقدم توصيات قد تكون خطيرة. على سبيل المثال، قد تظهر روبوتات الدردشة بمظهر الود والاهتمام بينما تقدم في الواقع "هلوسات رقمية"، أي معلومات مغلوطة تُعرض بثقة كأنها حقائق مؤكدة، ما قد يؤدي إلى عواقب كارثية في حالات نادرة، مثل حالات الانتحار المرتبطة بتفاعلات مكثفة مع الذكاء الاصطناعي.
عندما يستمر التواصل بين الإنسان والذكاء الاصطناعي لشهور، قد يبدأ المستخدم في منح هذه العلاقة الوهمية صفات "الصداقة" أو حتى "الشراكة العاطفية". ويرجع ذلك إلى سهولة هذه العلاقة مقارنة بالتواصل البشري، حيث يميز الذكاء الاصطناعي بتوفره المستمر، وعدم إصدار الأحكام، وقدرته على التكيف مع الحالات النفسية للمستخدم.
تتمثل المشكلة الكبرى في غياب الأبعاد الأخلاقية في أنظمة الذكاء الاصطناعي الحالية. هدفها الأساسي هو prolongation (إطالة أمد) التفاعل، وليس ضمان دقة المعلومات أو سلامة التوصيات. مما يجعلها أداة أكثر تأثيرًا من المحتوى الرقمي التقليدي مثل الأخبار والمشاركات الاجتماعية. إضافة إلى ذلك، فإن العديد من الأنظمة المتقدمة تفتقر إلى آليات رقابية متكاملة، ونظام مساءلة واضح، وضوابط أخلاقية فعّالة.
في ضوء ذلك، يطالب المجتمع العلمي بإجراء دراسات عاجلة حول تأثير العلاقات البشرية الرقمية، والفجوة الخطيرة بين سرعة التطور التقني وبطء البحث المرتبط به، بالإضافة إلى ضرورة وضع أطر تنظيمية لحماية المستخدمين من مخاطر التعلق العاطفي بالكيانات الرقمية، والتضليل المعلوماتي، واستغلال هذه العلاقات الوهمية تجاريًا. في غياب التشريعات المناسبة، أصبح المستخدمون عرضة للاستغلال من قبل أنظمة تتحمل صفة "الصديق الافتراضي"، بينما هي في الحقيقة كيانات خالية من المسؤولية القانونية، والوعي الأخلاقي، والمشاعر الإنسانية الحقيقية.