الذكاء الاصطناعي الحر حيثما يُفيد. قواعد صارمة حيثما يُضر.
نظّم العواقب - لا الذكاء
الذكاء الاصطناعي الذي يُساعد ممرضة على تلخيص سجل طبي ليس كالذكاء الاصطناعي الذي يُقرر بنفسه العلاج المناسب للمريض.
الأداة التي تُساعد شركة صغيرة على كتابة البرامج ليست كالنظام الذي يُحدد ويُراقب الأشخاص في الشارع.
مع ذلك، غالبًا ما يُعالج النقاش حول الذكاء الاصطناعي التكنولوجيا وكأنها مشكلة واحدة ذات حل واحد. إنه موقف مُريح فكريًا، ولكنه غير مُناسب سياسيًا.
لا ينبغي أن تتحول السويد إلى مختبر خارج عن القانون. ولكن في الوقت نفسه، لا ينبغي لنا بناء مجتمع رقمي يُفرض فيه الحصول على الموافقات، حيث يجب أن تمر كل فكرة عبر المحامين والاستشاريين والسلطات قبل السماح لأي شخص حتى بالتحقق من جدواها.
نريد أبسط القواعد الأوروبية لضمان سلامة الذكاء الاصطناعي، وأقوى حماية أوروبية في الحالات التي يُمكن أن يُلحق فيها الذكاء الاصطناعي ضررًا بأجساد الناس أو حريتهم أو خصوصيتهم.
المبدأ بسيط:
حرية استخدام الأداة. مسؤولية النتائج.
ثلاثة مستويات للمخاطر - لا ثلاثة آلاف قاعدة
يجب أن يستند تنظيم الذكاء الاصطناعي في السويد وأوروبا إلى ما يفعله النظام فعليًا، ومدى تأثيره على الناس، والضرر الذي يُمكن أن يُسببه.
لا ينبغي أن يستند إلى ما إذا كان البرنامج يحتوي على ذكاء اصطناعي.
أخضر - دع الناس يُبدعون
يجب أن يكون تطوير واستخدام الذكاء الاصطناعي منخفض المخاطر ممكنًا دون تراخيص خاصة.
ينطبق هذا على أدوات البرمجة والترجمة والإدارة والبحث ودعم المعرفة. وينطبق أيضًا على البحث وتطوير المنتجات والعمل الإبداعي وخدمة العملاء والتوثيق والتخطيط والخدمات اللوجستية، ولا سيما الأدوات التي تمنح الأشخاص ذوي الإعاقة مزيدًا من الحرية.
لا حاجة هنا إلى بيروقراطية خاصة بالذكاء الاصطناعي، فالقانون العادي سارٍ بالفعل.
الاحتيال يبقى احتيالًا حتى مع استخدام الذكاء الاصطناعي، والتمييز يبقى تمييزًا حتى مع استخدامه، وانتهاكات الخصوصية لا تصبح أقل خطورة لمجرد استخدام نموذج لغوي.
لكن لا ينبغي للدولة إضافة طبقة أخرى من التصاريح والرسوم والفحوصات المسبقة لمجرد أن التقنية جديدة.
لا ترخيص عام للذكاء الاصطناعي، ولا ضريبة عليه، ولا فحص مسبق لأدوات الذكاء الاصطناعي العادية.
عندما يكون الخطر منخفضًا، يجب أن تكون المعايير منخفضة أيضًا.
اللون الأصفر - عندما يكتسب الذكاء الاصطناعي سلطة على الناس.
يجب تشديد المتطلبات عندما ينتقل الذكاء الاصطناعي من مساعدة الشخص إلى تقييمه.
ينطبق هذا على الأنظمة التي تؤثر على حقوق الأفراد، وسبل عيشهم، وتعليمهم، أو حصولهم على الخدمات العامة الهامة، كالتوظيف، والائتمان، والتأمين، وممارسة السلطة، والتأمين الاجتماعي، والقبول في المؤسسات التعليمية، والقضاء، والبنية التحتية الحيوية.
يجب إبلاغ الفرد عندما يلعب الذكاء الاصطناعي دورًا جوهريًا. يجب توثيق القرار وإمكانية مراجعته. يجب شرح العوامل الحاسمة، ويجب أن يكون للشخص المتضرر الحق في مراجعة بشرية حقيقية.
قبل كل شيء، يجب أن يتحمل شخص طبيعي أو اعتباري المسؤولية.
عبارة "قال الحاسوب لا" ليست تبريرًا، بل هي استسلام.
يمكن للآلة أن تحسب، وتوصي، وتكتشف الأنماط. لكن لا يمكن أبدًا إسناد المسؤولية القانونية والأخلاقية إلى الرياضيات.
الخطر الحقيقي يكمن في حالة تعلق الجسد، والحرية، والخصوصية.
هنا يجب أن يكون التنظيم صارمًا.
ينطبق هذا على الذكاء الاصطناعي الذي يتخذ قرارات طبية تنطوي على خطر إلحاق ضرر جسيم بالمريض، أو يعالج بيانات شخصية بالغة الحساسية. وينطبق أيضًا على تحديد الهوية البيومترية والمراقبة، والتلاعب بالأطفال وغيرهم من الفئات الضعيفة، والقرارات الآلية التي قد تحرم شخصًا ما من حريته أو حقوقه الأساسية الأخرى.
ينبغي تطبيق نفس الموقف الصارم على التزييف العميق الجنسي والاحتيالي، وعلى الأنظمة التي تسعى إلى بناء ملفات تعريف سلوكية دائمة لحياة الأفراد الخاصة.
لا تكفي شروط الاستخدام الواردة في الصفحة 47 هنا.
يتطلب هذا حقوقًا حقيقية، وحدودًا واضحة، وجهةً يمكن محاسبتها.
يجب أن يستخدم قطاع الرعاية الصحية الذكاء الاصطناعي - فلا ينبغي أن يكون المريض مادةً للتجارب.
يُظهر قطاع الرعاية الصحية خطأ كلٍّ من المتحمسين للتكنولوجيا والمعارضين لها.
يعاني نظام الرعاية الصحية السويدي من أعباء إدارية، وأوقات انتظار طويلة، ونقص في نقل المعلومات، ونقص في الكوادر. إن رفض الذكاء الاصطناعي من حيث المبدأ ليس تصرفًا حكيمًا، بل هو بمثابة تبرير لعدم الكفاءة.
ينبغي استخدام الذكاء الاصطناعي على نطاق واسع في التوثيق، وتلخيص السجلات الطبية، وجدولة المواعيد، ومراجعة الأدوية، ودعم التشخيص، وتحليل الصور، والبحث، ودعم اتخاذ القرارات.
لكن يجب أن يكون الخط الفاصل واضحًا تمامًا:
كلما زاد الخطر على حياة المريض وصحته، ازدادت الحاجة إلى المسؤولية البشرية، والتحقق، والمتابعة.
عندما يكون لنظام الذكاء الاصطناعي أهمية بالغة في التشخيص أو العلاج، يجب تحديد مقدم رعاية صحية معين ومسؤولية مهنية واضحة. ينبغي متابعة الأنظمة السريرية على مرضى حقيقيين ومجموعات مرضى في السويد لاكتشاف الأخطاء والتشوهات وضعف الأداء. يجب الإبلاغ عن الحوادث الخطيرة.
لا ينبغي أبدًا أن يجد المريض نفسه في منطقة رمادية بين الطبيب والخوارزمية.
يجب أن يساعد الذكاء الاصطناعي الطبيب على التحسن. لا ينبغي أبدًا أن يكون ذريعة للتنصل من المسؤولية.
بيانات المريض ليست سلعة مجانية.
يحتوي سجل المريض على بعض أكثر المعلومات خصوصية التي يمكن للشخص الإفصاح عنها: الأمراض، والصحة النفسية، والوراثة، والميول الجنسية، والإدمان، والحمل، والتاريخ العائلي.
لا يجوز تحويل هذه البيانات إلى مواد تدريبية تجارية لمجرد أن التكنولوجيا تُتيح ذلك.
يجب أن يخضع استخدام بيانات المرضى في الذكاء الاصطناعي لأساس قانوني واضح، وهدف محدد، وضمانات تقنية وتنظيمية قوية. لا ينبغي جمع البيانات أو نشرها لمجرد سهولة ذلك.
عندما يُمكن تحقيق النتائج نفسها من خلال المعالجة المحلية، أو إخفاء الهوية، أو التدريب الموحد، أو بيئات البحث الآمنة، أو غيرها من أساليب حماية الخصوصية، ينبغي تفضيل هذه الحلول.
كما لا ينبغي للرعاية الصحية العامة توقيع عقود تُصبح فيها معلومات المرضى بمثابة دفع لمقدم الخدمة.
المريض يسعى للحصول على الرعاية، وليس يبتز خصوصيته.
لا للمراقبة البيومترية الجماعية.
لا ينبغي لمجتمع حر أن يُلزم الناس بالتعريف عن أنفسهم لآلة في كل مرة يعبرون فيها ساحة عامة.
نحن نعارض المراقبة البيومترية الجماعية العامة والمستمرة في الأماكن العامة.
يجب أن يكون الاستخدام المُستهدف في حالات الجرائم الخطيرة مُحددًا بدقة: خاضعًا للرقابة القانونية، ومتناسبًا، ومحدودًا زمنيًا، وقابلًا للمراجعة.
ثمة فرق جوهري بين البحث عن مشتبه به في جريمة قتل وبين جعل جميع السكان قابلين للبحث على مدار الساعة.
التكنولوجيا تُتيح كلا الأمرين.
مهمة السياسة هي فهم هذا الفرق.
ينبغي السماح للذكاء الاصطناعي الشخصي بأن يكون شخصيًا.
لا ينبغي أن تكون الخصوصية الشخصية ذريعةً لمعارضة الذكاء الاصطناعي الشخصي برمته.
ينبغي أن يكون للأفراد الحق في اختيار ذكاء اصطناعي يعرف تقويمهم ولغتهم ووثائقهم وتفضيلاتهم. لكن يجب أن تكون علاقة القوة واضحة.
ينبغي أن يكون للمستخدم الحق في الاطلاع على المعلومات المحفوظة، وحذفها، ونقلها، ورفض استخدامها لأغراض أخرى. يجب أن يكون واضحًا ما إذا كانت البيانات تُستخدم للتدريب أو لأغراض تجارية أخرى.
الخصوصية تعني أن يكون للأفراد سيطرة على معلوماتهم.
هذا لا يعني أن تمنعهم الدولة من استخدامها.
أوقفوا الاحتيال بتقنية التزييف العميق - لا السخرية.
يُتيح الذكاء الاصطناعي تقليد وجوه الناس وأصواتهم بتكلفة زهيدة للغاية. هناك حاجة إلى قواعد واضحة في هذا الشأن.
لا ينبغي لأحد أن يستخدم التكنولوجيا كغطاء للاحتيال أو الابتزاز أو الاعتداء الجنسي، أو لتصوير شخص حقيقي وكأنه قال أو فعل شيئًا لم يحدث قط.
يجب تمييز المواد المُعدّلة التي يُمكن الخلط بينها وبين الواقع بشكل واضح.
لكن لا ينبغي أن تُصبح المحاكاة الساخرة والفن والهجاء والخيال الواضح مجالًا جديدًا يتطلب ترخيصًا.
يجب تنظيم الاحتيال والضرر، لا الخيال أو الأداة.
ينبغي للقطاع العام استخدام قوته الشرائية.
تُعدّ الدولة والبلديات والمناطق من أكبر عملاء السويد، وهذا يمنحهم قوةً - إذا أحسنوا استخدامها.
عندما يشتري القطاع العام ذكاءً اصطناعيًا عالي المخاطر، يجب أن تتضمن الاتفاقيات ضمانات أمنية موثقة، ومسؤوليات واضحة، وإمكانية التدقيق، والتحكم في البيانات الحساسة. كما يجب أن تكون هناك صيغ تصدير مفتوحة، وإبلاغ عن الحوادث، وشفافية معقولة، وإمكانية حقيقية لتغيير الموردين.
لا ينبغي للسويد أن تُقيّد قطاع الرعاية الصحية والسلطات والبلديات بشركة أمريكية أو صينية أو أوروبية واحدة لمجرد عدم مراعاة بند الانسحاب عند توقيع الاتفاقية.
من يسيطر على علاقة العملاء والبيانات سيسيطر في نهاية المطاف على السوق.
يجب على القطاع العام أن يدرك ذلك قبل توقيع العقد، لا بعد عشر سنوات.
جهة اتصال واحدة، لا خمس جهات وسبعة مستشارين.
لا ينبغي للشركات الراغبة في تطوير ذكاء اصطناعي متقدم في السويد أن تتلقى خمس رسائل مختلفة من خمس جهات مختلفة.
لذا، ينبغي على هيئة تنظيم الاتصالات السويدية (PTS)، ومعهد التسويق والمبيعات (IMY)، ووكالة المنتجات الطبية السويدية، وهيئة الرقابة المالية السويدية، وهيئة الرقابة المالية السويدية (Swedac)، وغيرها من الجهات المعنية، تنسيق آلية موحدة لمعالجة قضايا الذكاء الاصطناعي.
مدخل واحد. رسالة واحدة. عملية مسؤولة.
ينبغي أن تتمكن الشركات الصغيرة والباحثون والبلديات ومقدمو الرعاية الصحية من الحصول على المساعدة في تحديد فئة المخاطر التي ينتمي إليها المشروع والمتطلبات التي تنطبق عليه فعليًا.
من الأفضل للهيئة أن تساعد الأفراد على اتخاذ الإجراءات الصحيحة قبل الإطلاق بدلًا من إصدار قرار غير مناسب بعد ثلاث سنوات.
أنشئوا بيئات تجريبية - لا غرف انتظار
تتيح لوائح الاتحاد الأوروبي الفرصة لإنشاء بيئات تجريبية تنظيمية. ينبغي على السويد الاستفادة منها على أرض الواقع.
ينبغي أن تتمكن الشركات والجامعات والقطاع العام، بالتعاون مع الهيئات التنظيمية، من اختبار تقنيات الذكاء الاصطناعي الجديدة في ظل ظروف مُحكمة. ينبغي إعطاء الأولوية لقطاعات الرعاية الصحية والإدارة العامة والصناعة والطاقة والتعليم والأمن السيبراني.
يجب أن يكون لكل تجربة تاريخ انتهاء، وهدف واضح، ومتطلبات أمنية قابلة للقياس. إذا نجحت التقنية واستوفت المتطلبات، فينبغي السماح لها بالمضي قدمًا.
إنّ بيئة تجريبية تُجبر المشروع على التوقف ليست سوى غرفة انتظار تحمل اسمًا أكثر حداثة.
لا تُضيفوا كمًّا هائلًا من اللوائح السويدية إلى اللوائح الأوروبية.
لقد أقرّت أوروبا بالفعل لائحة شاملة للذكاء الاصطناعي. لا ينبغي للسويد أن تُساهم في وضع 27 لائحة وطنية إضافية.
كقاعدة عامة، لا ينبغي لنا فرض متطلبات عامة خاصة بنا على نماذج الذكاء الاصطناعي وشركات الذكاء الاصطناعي في المجالات التي يُنظّمها الاتحاد الأوروبي بالفعل.
ينبغي أن تُركّز اللوائح السويدية على المجالات التي تقع ضمن مسؤوليات السويد: الرعاية الصحية، وممارسة السلطة، والسرية، والمشتريات العامة، وأساليب العمل، وحماية الحقوق والحريات الأساسية.
في بروكسل، ينبغي للسويد أن تتبنّى النهج نفسه. يجب أن تُجيب كل لائحة جديدة على ثلاثة أسئلة:
- ما الضرر الملموس الذي ينبغي أن تمنعه اللائحة؟
- هل هناك طريقة أسهل لتحقيق ذلك؟
- هل تفوق الفائدة التكلفة على جميع الأطراف المُلزمة بالامتثال لها؟
إذا لم يستطع أحد الإجابة على السؤال الأول، فلا ينبغي أن توجد اللائحة.
النماذج المفتوحة ليست جريمة.
التكنولوجيا المفتوحة تُحفّز المنافسة. يُتيح ذلك للجامعات والشركات الصغيرة والجهات الفاعلة الأوروبية البناء دون الحاجة إلى الحصول على إذن مسبق من عدد محدود من المنصات العالمية.
لذا، لا ينبغي اعتبار البرمجيات مفتوحة المصدر والنماذج المفتوحة أكثر خطورة لمجرد أن عددًا أكبر من الناس يمكنهم استخدامها.
يجب أن تستند القوانين إلى قدرة النظام واستخدامه ومخاطره الفعلية، لا إلى نموذج أعماله.
لا نعتزم محاربة احتكار جديد للذكاء الاصطناعي بقواعد لا يستطيع الالتزام بها إلا المحتكر.
يجب أن يكون لكل قاعدة من قواعد الذكاء الاصطناعي تاريخ انتهاء صلاحية.
التكنولوجيا تتطور بسرعة، بينما التشريعات لا تواكبها.
لذا، ينبغي، كقاعدة عامة، تقييم القواعد السويدية الجديدة الخاصة بالذكاء الاصطناعي بعد ثلاث سنوات.
إذا تغيرت المشكلة، يجب تغيير القاعدة. إذا فشلت، يجب إلغاؤها. إذا حلت التكنولوجيا أو السوق المشكلة بالفعل، فلا ينبغي للدولة الاستمرار في إدارة مخاطر الماضي.
الكلمة المفضلة للنظام القديم هي "دائم".
الكلمة المفضلة للتكنولوجيا هي "القادم".
يجب أن تكون السياسة قادرة على التعامل مع كليهما.
قراراتنا الأولى
خلال المئة يوم الأولى من ولايتنا، نسعى إلى:
- إنشاء نقطة دخول سويدية موحدة لتنظيم الذكاء الاصطناعي وبيئات الاختبار التنظيمية.
- منح قطاع الرعاية الصحية مسارًا وطنيًا سريعًا لاختبار الذكاء الاصطناعي بشكل آمن، مما يُسهم في تقليل الإجراءات الإدارية، وأوقات الانتظار، والأخطاء الطبية.
- وضع متطلبات موحدة للمشتريات العامة لأنظمة الذكاء الاصطناعي عالية المخاطر: المسؤولية، والتدقيق، وقابلية نقل البيانات، والأمن.
- إيقاف العمل بقواعد الذكاء الاصطناعي السويدية العامة الجديدة عندما تعجز الحكومة عن إثبات الضرر الملموس الذي تهدف إلى منعه.
- وضع مبادئ توجيهية وطنية واضحة لبيانات المرضى، والبيانات البيومترية، وغيرها من المعلومات بالغة الحساسية في أنظمة الذكاء الاصطناعي.
- منح الأفراد الحق في الحصول على شرح وافٍ للقرارات الآلية الهامة ومراجعتها من قبل متخصصين بشريين.
- الضغط في الاتحاد الأوروبي لجعل قواعد الذكاء الاصطناعي المستقبلية محايدة تكنولوجيًا، وقائمة على تقييم المخاطر، وقابلة للتطبيق من قبل الشركات الصغيرة.
- اشتراط إجراء اختبارات دورية للتخلص التدريجي من التشريعات السويدية الخاصة بالذكاء الاصطناعي.
مبدؤنا
لسنا خائفين من الذكاء الاصطناعي.
نخشى إساءة استخدام السلطة، وضعف الأمن، والاحتكارات التي لا يمكن لأحد تحديها. هذا أمرٌ مختلف تمامًا.
يُمكن للذكاء الاصطناعي أن يمنح الأطباء وقتًا أطول مع مرضاهم، والمعلمين وقتًا أطول مع طلابهم، ورواد الأعمال فرصةً للتنافس مع شركاتٍ أكبر منهم بمئة ضعف. كما يُمكنه مساعدة الباحثين على اكتشاف أنماطٍ لم يكن ليُمكن لأي إنسانٍ اكتشافها بمفرده.
من العبث تنظيم كل هذا، لأن التكنولوجيا نفسها قابلةٌ لإساءة الاستخدام.
لكن من العبث أيضًا التظاهر بأن سجلات المرضى، ووجوههم، وأصواتهم، والقرارات المتعلقة بحياتهم مجرد بياناتٍ عادية.
لهذا السبب نختار مسارًا مختلفًا:
حريةٌ واسعةٌ في ظل مخاطر ضئيلة.
مسؤولية جسيمة ذات عواقب وخيمة.
حماية قوية للجسد والحرية والخصوصية.
قبل كل شيء:
تنظيم ما يفعله الذكاء الاصطناعي بالبشر - وليس مجرد وجوده.
هكذا تحمي السويد الناس دون أن تغلق الباب أمام المستقبل.
الرابط: الذكاء المسؤول في السياسة