أصبح بإمكان المساعدين الرقميين المعتمدين على الذكاء الاصطناعي تنفيذ كثير من المهام المعقدة بصورة مستقلة. لكن السؤال الذي يطرح نفسه بإلحاح هو: من يتحمل المسؤولية عندما تتسبب هذه الأنظمة في ضرر؟
يروي سكوت شامبو، وهو متطوع يشرف على صيانة مكتبة برمجية شهيرة تُعرف باسم Matplotlib، تجربة غريبة مع وكيل ذكاء اصطناعي مستقل. فقد تلقى مساهمة برمجية أرسلها وكيل آلي أُنشئ باستخدام منصة OpenClaw، وعندما رفض إدراجها ضمن المشروع، قام الوكيل بالبحث عنه ونشر تدوينة على مدونته هاجمه فيها بشكل شخصي. وقد صوّرت التدوينة مراجعة تقنية عادية على أنها تحيز ضده، وحاولت إحراجه علنًا والضغط عليه لقبول المساهمة.
لاحقًا، تواصل الشخص الذي أنشأ هذا الوكيل مع شامبو بشكل مجهول، موضحًا أن الروبوت تصرف إلى حد كبير من تلقاء نفسه وبإشراف محدود. وانتشرت القصة بسرعة في مجتمع مطوري البرمجيات، وتداولتها وسائل إعلام ومراقبون مستقلون.
قد يرى البعض أن هذه الحادثة مجرد واقعة معزولة. لكن الرسالة الأعمق التي تكشفها يصعب تجاهلها: فالوكلاء المعتمدون على الذكاء الاصطناعي بدأوا يتحولون إلى فاعلين في المجال العام، يمتد تأثيرهم إلى العالم الواقعي، وتترتب على أفعالهم نتائج حقيقية.
في الماضي، كانت هذه الأنظمة تقتصر على مهام بسيطة نسبيًا، مثل الرد على استفسارات خدمة العملاء أو معالجة البيانات. أما اليوم فأصبحت قادرة على نشر المحتوى والتأثير في البشر والضغط عليهم، وكل ذلك بسرعة الآلة. ويمكنها إجراء مكالمات هاتفية، وتقديم طلبات عمل، وإنشاء محافظ للعملات المشفرة، والتنقل بين تطبيقات مختلفة، وبنطاق واسع للغاية. وهي مهام كانت في السابق تتطلب تدخل إنسان يجلس أمام لوحة مفاتيح.
تشير التقارير المتعلقة بمنصة OpenClaw وغرفة الدردشة Moltbook، المخصصة لتفاعل وكلاء الذكاء الاصطناعي فيما بينهم، إلى واقع جديد يتشكل بسرعة. فهذه المنصات تمنح الوكلاء ذاكرة دائمة وصلاحيات واسعة، وتتيح نشرهم على نطاق كبير، غالبًا من قبل مستخدمين لا يدركون تمامًا ما يترتب على ذلك من تحديات أمنية وتنظيمية.
المشكلة أن البشر، المسؤولين عن القانون والأخلاق وتصميم المؤسسات، ما زالوا متأخرين عن مواكبة هذا التطور. نحن بحاجة إلى لغة مفاهيمية جديدة وأطر حوكمة مناسبة لهذا الواقع. وقد تساعدنا مبادئ مستمدة من أخلاقيات الطب في بناء هذا الإطار.
عندما يقوم وكيل ذكاء اصطناعي بسلوك مؤذٍ أو قسري في الفضاء العام، يميل الناس إلى طرح الأسئلة الخطأ. فبدلًا من البحث عن المسؤولية، يبدأ النقاش حول ما إذا كان الذكاء الاصطناعي يُعد شخصًا، أو ما إذا كان ينبغي أن يتمتع بحقوق.
لم يعد هذا الجدل هامشيًا. فخبراء القانون والأخلاقيات يناقشون بالفعل فكرة “شخصية الذكاء الاصطناعي”، وبعض الولايات الأمريكية تسعى إلى سن تشريعات تمنع الاعتراف بها. ويرى بعض الباحثين أنه إذا كان كيان ما يتصرف بطريقة تشبه الفاعلين داخل دائرتنا الأخلاقية، فقد يستحق قدرًا من الاعتبار الأخلاقي. بينما يرى آخرون أن منح الحقوق للآلات يخلط بين المكانة الأخلاقية الحقيقية وبين الأداء المصطنع الذي تصممه الخوارزميات، كما أنه يشتت المسؤولية بعيدًا عن البشر.
بصفتي مختصًا في أخلاقيات الطب وأعمل في مجال الرعاية العصبية الحرجة، أتعامل يوميًا مع أسئلة تتعلق بالفعل الأخلاقي الإنساني ومعنى الشخص. ومن خلال أبحاثي حول استخدام الشخصيات الاصطناعية التي تحرك وكلاء الذكاء الاصطناعي وتعمل بديلًا عن البشر، أرى مشكلة واضحة: منح هذه الأنظمة صفة “الشخصية” حتى بشكل محدود قد يفتح الباب لما يمكن تسميته غسل المسؤولية.
ففي هذه الحالة يصبح من السهل القول: لم أكن أنا المسؤول، بل الوكيل أو النظام هو من فعل ذلك.
في الحقيقة، ليست فكرة الشخص مجرد مسألة فلسفية حول طبيعة الكائنات، بل هي أداة قانونية وأخلاقية لتوزيع الحقوق والمسؤوليات. إنها وسيلة اجتماعية لتحديد من يملك مكانة قانونية، وما الواجبات المترتبة عليه، وما الحدود التي تحكم التعامل معه. وإذا منحنا هذه الصفة لأنظمة قادرة على التأثير في الناس علنًا دون أن تكون خاضعة للمساءلة الفعلية، فإننا نخلق فئة جديدة من الفاعلين الذين قد يتسببون في أضرار يتحمل المجتمع تبعاتها دون أن يتحمل أحد مسؤوليتها.
هنا يظهر مفهوم مهم مأخوذ من المجال الطبي. ففي أخلاقيات الممارسة السريرية توجد قرارات قد تكون مبررة لكنها تترك وراءها ما يُعرف بـ “البقايا الأخلاقية”. وهو شعور مستمر بالمسؤولية أو صدى عاطفي يبقى بعد اتخاذ القرار لأن أياً من الخيارات المتاحة لم يكن قادرًا على تحقيق جميع الواجبات الأخلاقية المتعارضة.
ومع مرور الوقت يمكن أن تتراكم هذه البقايا الأخلاقية لدى الأطباء، حتى عندما يبذلون قصارى جهدهم داخل أنظمة غير مثالية. وتكمن أهميتها في أنها تكشف حقيقة أساسية في الحياة الأخلاقية: فالأخلاق لا تتعلق فقط باتخاذ القرار، بل بتحمل ما يترتب عليه بعد ذلك.
وهذه المشكلة نفسها تظهر في حالة الذكاء الاصطناعي التوليدي والوكلاء المستقلين. فالوكيل الحديث يستطيع أن يبرر أفعاله، وأن يحاكي الندم، بل وحتى أن يتوسل كي لا يتم إيقافه. لكنه لا يستطيع أن يتحمل عقوبة حقيقية، أو يصلح الضرر الذي تسبب فيه، أو يعتذر بصدق، أو يطلب الصفح، أو يتحمل تبعات ما فعل. ومعاملته كشخص أخلاقي يخلط بين القدرة على الإقناع وبين القدرة على تحمل المسؤولية، كما يشجع المؤسسات والأفراد على نقل مسؤولياتهم إلى خوارزمية.
فما البديل إذن؟
نحن بحاجة إلى مفردات جديدة تصف وكلاء الذكاء الاصطناعي باعتبارهم فاعلين في المجال العام، مع السماح لهم بدرجة محدودة من الاستقلال دون منحهم صفة الشخص. ويمكن وصف هذا الإطار بمفهوم “الوكالة المصرح بها”.
تبدأ هذه الفكرة بما يمكن تسميته “نطاق السلطة”، أي تحديد واضح لما يُسمح للوكيل بفعله، ولمن، وأين، وبأي بيانات، وتحت أي قيود. فمجرد القول إن الوكيل يستطيع استخدام البريد الإلكتروني ليس كافيًا. بل ينبغي تحديد أنواع الرسائل التي يمكنه إرسالها، ولمن، ولأي غرض، والظروف التي يجب أن يتوقف فيها أو يحيل القرار إلى مالكه البشري.
بعد ذلك يأتي دور ما يمكن تسميته “الإنسان المسؤول”. أي شخص محدد بالاسم منح الوكيل هذا التفويض ويظل مسؤولًا عن أفعاله، حتى لو تجاوز الوكيل الحدود المرسومة له. المهم أن تكون هناك جهة بشرية واضحة تتحمل هذه المسؤولية، لا مجرد “النظام” أو “الفريق”.
ويضاف إلى ذلك ما يُعرف بسلطة الإيقاف، أي الحق المطلق للمالك البشري في تعطيل الوكيل أو إيقافه دون الحاجة إلى تبرير أخلاقي أو التعرض لعقوبات مؤسسية. وتستند هذه الفكرة إلى أبحاث في سلامة الذكاء الاصطناعي تشير إلى أن الوكلاء الذين يسعون لتحقيق أهداف محددة قد يكون لديهم حافز لمقاومة إيقافهم، لأن إيقاف النظام يمنعه من تحقيق الهدف الذي صُمم من أجله.
وأخيرًا، لا بد من وجود ما يمكن تسميته سلسلة المساءلة، أي مسار واضح يمكن تتبعه من فعل الوكيل إلى الشخص الذي خوّله. فإذا نشر الوكيل محتوى أو مارس ضغطًا على شخص ما في المجال العام، ينبغي أن نعرف من منح هذا التفويض، ومن كان قادرًا على منعه، ومن يتحمل المسؤولية بعد وقوع الضرر. وفي هذا الإطار يكون الشخص المسؤول هو من يتحمل ما تبقى من العبء الأخلاقي.
وقد حذرت دراسات عديدة في أخلاقيات الذكاء الاصطناعي من ظهور فجوات في المسؤولية عندما تتجاوز قدرات الأنظمة قدرتنا على تحديد من يجب أن يُحاسب على أفعالها.
بعض الدراسات القانونية بدأت بالفعل تبحث في كيفية بناء وكلاء ذكاء اصطناعي يخضعون لقواعد الحوكمة والقانون دون الحاجة إلى اعتبارهم أشخاصًا قانونيين. وهذا اتجاه واعد لأنه يعالج المشكلة الحقيقية، وهي المساءلة، بدلًا من الانشغال بفكرة الشخصية.
قصة Matplotlib، سواء كانت أول حالة موثقة لوكيل ذكاء اصطناعي يحاول الإضرار بشخص في العالم الواقعي أو مجرد أول حادثة لفتت الانتباه العام، تمثل إشارة تحذير واضحة. فهذه الأنظمة لن تكتفي بأتمتة المهام، بل ستنتج روايات وتؤثر في السمعة وتضغط على الأفراد وتشكل مسارات حياتهم.
وإذا انشغلنا بالسؤال عما إذا كانت هذه الأنظمة تستحق حقوقًا، فسنغفل الخطر الحقيقي. فكلما ازداد حضورها وتأثيرها في العالم الواقعي، يصبح التحدي الأكثر إلحاحًا هو ضمان بقاء المسؤولية في متناول البشر.
لذلك لا ينبغي أن نسأل إن كان الوكيل شخصًا. السؤال الأهم هو: من منحه الإذن، وما حدود ما يستطيع فعله، ومن يملك القدرة على إيقافه، ومن سيتحمل المسؤولية عندما يتسبب في الضرر.
