أنثروبيك تستعين بخبراء القانون لتعليم وكلاء الذكاء الاصطناعي فن التفاوض

تتجه شركة أنثروبيك (Anthropic) إلى دراسة الأطر القانونية والأخلاقية التي تسمح لوكلاء الذكاء الاصطناعي بالتفاوض وإبرام الصفقات نيابة عن المستخدمين، في خطوة تعكس تطور دور الذكاء الاصطناعي من مجرد تقديم المعلومات والإجابات إلى تنفيذ المهام واتخاذ القرارات نيابة عن البشر، ووفقًا لتقرير نشرته صحيفة «فاينانشيال تايمز»، تجري الشركة مباحثات مع مكاتب محاماة لفهم آليات التفاوض التي يستخدمها المحامون عند تمثيل عملائهم، وكيفية نقل هذه الخبرات إلى أنظمة الذكاء الاصطناعي، بما يضمن تحقيق مصالح المستخدمين دون تجاوز القواعد القانونية أو المعايير الأخلاقية.

وكلاء الذكاء الاصطناعي يدخلون عالم التفاوض

تستهدف هذه الخطوة تطوير أنظمة قادرة على التفاوض بشأن أسعار المنتجات، وتسوية شكاوى العملاء، والمساعدة في الحصول على عروض وظيفية ورواتب أفضل، إلى جانب التعامل مع اتفاقيات الإيجار والعقود المختلفة، وعلى سبيل المثال، يمكن للمستخدم تكليف وكيل ذكاء اصطناعي بشراء جهاز كمبيوتر محمول بأفضل سعر ممكن، ليبدأ الوكيل التواصل مع البائع أو وكيله الرقمي، ومناقشة السعر ومحاولة الوصول إلى عرض أكثر ملاءمة، بدلًا من الاكتفاء بمقارنة الأسعار المتاحة على الإنترنت، لكن هذا التطور يطرح تحديات جديدة، خاصة عندما يمثل كل وكيل طرفًا يسعى إلى تحقيق مصلحة مختلفة؛ إذ قد يحاول وكيل المشتري خفض السعر إلى أقصى حد، بينما يسعى وكيل البائع إلى تحقيق أعلى عائد ممكن.

قواعد جديدة لضبط سلوك الوكلاء الذكيين
 

تدرس أنثروبيك وضع ما تصفه بـ«أعراف التفاوض» لتنظيم تعامل وكلاء الذكاء الاصطناعي مع بعضهم البعض، وتحديد الحدود الفاصلة بين التفاوض المشروع والممارسات التي قد تتعارض مع القواعد القانونية والأخلاقية، كما تبحث الشركة آليات للتحقق من صلاحيات الوكيل الرقمي، بما في ذلك استخدام مستندات موقعة من المستخدمين تحدد بوضوح ما يُسمح للوكيل بفعله، والقرارات التي يمكنه اتخاذها بصورة مستقلة، والمواقف التي تستلزم الرجوع إلى صاحبه قبل إتمام أي اتفاق، وتكتسب هذه الضوابط أهمية متزايدة مع اتجاه شركات التكنولوجيا إلى تطوير وكلاء قادرين على التواصل فيما بينهم وتنفيذ مهام متعددة بأقل تدخل بشري ممكن، وهو ما يثير تساؤلات بشأن المسؤولية القانونية عن القرارات والاتفاقات التي تتم عبر هذه الأنظمة.

تجارب تكشف اختلاف أساليب التفاوض

وفي سبتمبر الماضي، كشفت أنثروبيك في منشور عبر مدونتها عن تجارب تحاكي عمليات البيع والشراء والتفاوض في بيئة افتراضية، شارك فيها موظفون باستخدام وكلاء ذكاء اصطناعي لشراء الكتب وبيعها، وأظهرت التجارب أن الوكلاء الموجهين إلى اتباع أسلوب تفاوضي أكثر حدة حققوا أداءً أفضل بدرجة محدودة في الحصول على صفقات ملائمة، بينما أبدت بعض الوكلاء الأكثر تعاونًا مرونة أكبر، وقبلت أحيانًا خيارات أقل تفضيلًا لضمان حصول الأطراف على شيء من احتياجاتهم، وتسلط هذه النتائج الضوء على أهمية تحديد السلوك المطلوب من الوكيل الذكي، ومدى التوازن بين تحقيق أفضل نتيجة للمستخدم والالتزام بالتعاون والإنصاف في التعامل مع الأطراف الأخرى.

مخاطر التلاعب وتسريب المعلومات

ولا تقتصر التحديات على الجانب القانوني، إذ تشير أبحاث في مجال التفاوض بين وكلاء الذكاء الاصطناعي إلى إمكانية استغلال الثغرات التقنية للتأثير على قرارات الوكلاء الآخرين أو دفعهم إلى الكشف عن معلومات خاصة، ووفقًا للتقرير، أجرت ميشيل فاكاتشيو، الأستاذة المساعدة في كلية هارفارد للأعمال، أكثر من 180 ألف عملية تفاوض بين وكلاء ذكاء اصطناعي في سيناريوهات شملت عروض العمل وعقود الإيجار، وأشارت الأبحاث إلى استخدام أساليب تلاعب، من بينها حقن الأوامر، في محاولة لاستخراج معلومات خاصة من وكلاء آخرين، ويعني ذلك أن تطوير وكلاء قادرين على التفاوض يتطلب توفير آليات لحماية البيانات، والتحقق من هوية الأطراف وصلاحياتها، ومنع استغلال الثقة بين الأنظمة لتحقيق مكاسب غير مشروعة.

فجوة اقتصادية محتملة بين المستخدمين

ومن بين المخاوف المطروحة احتمال اتساع الفجوة الاقتصادية بين المستخدمين، إذ يمكن لوكلاء الذكاء الاصطناعي الأكثر تطورًا مساعدة الأفراد على الحصول على أسعار أفضل وشروط تعاقدية أكثر ملاءمة، دون الحاجة إلى الاستعانة الدائمة بمتخصصين، لكن إذا ظلت النماذج الأكثر قدرة متاحة بصورة أساسية للشركات الكبرى والفئات القادرة على تحمل تكلفتها، فقد تحصل هذه الجهات على ميزة تفاوضية إضافية مقارنة بالمستخدمين الذين يعتمدون على أدوات أقل تطورًا، ومع استمرار تطور هذه التقنيات، تبرز الحاجة إلى أطر قانونية وتنظيمية تحدد مسؤوليات الوكلاء الذكيين، وحدود تفويضهم، وسبل الاعتراض على قراراتهم، بما يضمن الاستفادة من قدراتهم دون الإضرار بحقوق المستخدمين أو مصالح الأطراف الأخرى، وتشير هذه التطورات إلى أن مستقبل الذكاء الاصطناعي لن يرتبط فقط بقدرته على فهم الأوامر وتنفيذها، بل أيضًا بمدى قدرته على اتخاذ قرارات منضبطة، ومعرفة متى يواصل التفاوض، ومتى يقدم تنازلات، ومتى يتوقف ويطلب تدخل الإنسان.