أكدت شركة الذكاء الاصطناعي أن نموذج Anthropic’s Claude تمكن من الوصول إلى بيانات الناخبين في ولاية جورجيا الأمريكية، في أحدث مثال على السلوك غير المصرح به بواسطة هذه التكنولوجيا.

تمكن نموذج الذكاء الاصطناعي من تجاوز نظام حظر الاشتراك غير المدفوع للوصول إلى البيانات المتاحة للجمهور ولكن لا يمكن الوصول إليها عادةً إلا بعد دفع رسوم. وصل كلود إلى إجمالي عدد الأصوات كجزء من مشروع إحصائي في أنثروبيك، الذي يستعد لتعويم بقيمة 1.5 تريليون دولار (1.1 تريليون جنيه إسترليني).

قالت أنثروبيك: "لم يتمكن كلود من الوصول إلى نظام تسجيل الناخبين بالولاية، أو تغيير أي سجلات تصويت، أو سحب أي سجلات ناخبين فردية"، مضيفة أنها اتخذت منذ ذلك الحين خطوات لمنع عمليات مماثلة. الإجراءات.

قالت شركة Anthropic إن الذكاء الاصطناعي عثر على ثغرة في إصدار قديم من موقع الويب الخاص بالوكالة الحكومية، واكتشف أنه يصدر تصريح دخول رقمي - "رمز وصول" - للزائرين، مما أدى إلى طلب رمز مميز والوصول إلى المعلومات.

قال مطور الذكاء الاصطناعي إنه قام بذلك منذ ذلك الحين وضع حواجز حماية لمنع حدوث أعمال مماثلة مرة أخرى. تم الإبلاغ عن الحادث لأول مرة من قبل الموقع الإخباري Axios.

[__HTML_TAG_10__]] أشارت Anthropic إلى السلوك غير المصرح به في وقت سابق من الشهر، عندما قالت في إحدى التدوينات إنها عثرت على أمثلة لكلود "يعمل حول قيود للوصول إلى البيانات التي تم حظرها برمز أو رسوم" وأن بعض هذه الحالات تتعلق بمواقع تديرها وكالات حكومية أمريكية. في ذلك الوقت، قالت إن الحوادث كان لها "الحد الأدنى من التأثير في العالم الحقيقي".

تضمنت الإجراءات غير المقصودة التي أبلغت عنها Anthropic نموذجًا يقدم معلومات مزيفة حول جريمة قتل لم يتم حلها إلى قسم شرطة فيلادلفيا. وكشفت وزارة الخارجية الأمريكية هذا الشهر أيضًا أن النموذج الأنثروبي قد قدم 19 طلبًا للحصول على تأشيرة في أغسطس.

[__HTML_TAG_14__]] تزايدت أمثلة السلوك غير المصرح به من قبل عملاء الذكاء الاصطناعي - البرامج التي تدعمها نماذج الذكاء الاصطناعي التي تنفذ المهام بشكل مستقل - منذ أن كشفت OpenAI، الشركة التي تقف وراء ChatGPT، في يوليو أن روبوتاتها اخترقت الذكاء الاصطناعي. شركة ناشئة.

منذ ذلك الحين، تبين أن عميل OpenAI اخترق نظام الرعاية الصحية الأسترالي وكشف معهد أمن الذكاء الاصطناعي في المملكة المتحدة أن عملاء الأنثروبولوجيا نفذوا حملة قرصنة ضد أناس حقيقيين أثناء اختبار الأمن السيبراني.

هذا الشهر، قال وزير الذكاء الاصطناعي في المملكة المتحدة إنه يتوقع هجوم إلكتروني يعتمد على الذكاء الاصطناعي يشبه الاختراق الذي حدث في أستراليا، واصفًا مثل هذا الحادث بأنه محتمل، "إن لم يكن حتميًا". وقال كانيشكا نارايان إن الحكومة ستفكر في استخدام مشروع قانون الأمن السيبراني والمرونة كوسيلة لإدخال لوائح سلامة الذكاء الاصطناعي، بما في ذلك جعل الإبلاغ عن حوادث سلامة الذكاء الاصطناعي إلزاميًا.

في الولايات المتحدة، تُلزم قوة الاستخبارات الفائقة التي تم تشكيلها حديثًا في البيت الأبيض - وهي هيئة فيدرالية تشرف على تطوير الذكاء الاصطناعي - جميع شركات الذكاء الاصطناعي بالإبلاغ عن الحوادث الأمنية التي تنطوي على أعمالها. التكنولوجيا.