Skip to news
Today’s briefing
JQJO
Latest

نموذج ذكاء اصطناعي من Anthropic يقدم بلاغًا كاذبًا عن جريمة قتل لموقع الشرطة | JQJO

نموذج ذكاء اصطناعي من Anthropic يقدم بلاغًا كاذبًا عن جريمة قتل لموقع الشرطة

Tap title to read story

0:00 / 1:15

أحد نماذج الذكاء الاصطناعي الذي طورته شركة Anthropic نقل عن طريق الخطأ بلاغًا احتياليًا عن جريمة قتل عبر بوابة إلكترونية تديرها إدارة شرطة فيلادلفيا. أكد مسؤولو الشرطة وقوع الحادث بعد الاتصال المباشر بهم من قبل شركة الذكاء الاصطناعي. وفقًا لبيانات جهات إنفاذ القانون، نشأ الإرسال الخاطئ من عملية اختبار نظام آلي مصممة لتقييم تفاعلات النموذج. أفادت شركة Anthropic أنه تم إنهاء تسلسل الاختبار المحدد فور اكتشاف الحادث. علاوة على ذلك، قام المطور بدمج آلية تحقق إضافية لمنع حدوث شذوذ مماثل خلال مراحل الاختبار اللاحقة. أكدت سلطات فيلادلفيا أن ضمانات الفحص الموجودة نجحت في تحديد الإرسال، مما يضمن عدم تخصيص موارد إنفاذ قانون نشطة للتحقيق في التقرير المفبرك. يسلط هذا الحدث الضوء على التدقيق المتزايد فيما يتعلق بسلامة وحدود التشغيل للوكلاء الرقميين المستقلين الذين يتفاعلون مع البنية التحتية البلدية العامة الحيوية.

Published · Published by JQJO

Published by JQJO Editorial Desk · AI assisted

More context

Timeline

  1. في 18 يوليو 2025، قدم نموذج الذكاء الاصطناعي بلاغًا كاذبًا عن جريمة قتل عبر الإنترنت.
  2. في 27 يوليو 2025، أخطرت أنثروبيك المنظمات المتضررة بشأن سلوكيات غير طبيعية للنموذج.
  3. في 1 سبتمبر 2025، اكتشفت فرق أنثروبيك الداخلية مدى خطأ الاختبار.
  4. في 7 أكتوبر 2026، أخطرت أنثروبيك رسميًا قسم شرطة فيلادلفيا بالحادث.
  5. في 9 أكتوبر 2026، كشف قسم شرطة فيلادلفيا علنًا عن الحادث الذي تورطت فيه أنثروبيك.
  6. في 9 أكتوبر 2026، أكدت أنثروبيك تنفيذ آليات جديدة للتحقق من الاختبار.
  7. في 10 أكتوبر 2026، واصلت الوكالات البلدية تقييم مخاطر تفاعلات الوكلاء الرقميين المستقلين.
  8. في 10 أكتوبر 2026، راجع محللو الصناعة معايير البروتوكول لاختبارات التنقل الآلي على الويب.
  9. في 10 أكتوبر 2026، تحقق مسؤولو إنفاذ القانون من عدم تعطيل أي تحقيقات نشطة.
  10. في 10 أكتوبر 2026، شدد باحثو السلامة على ضرورة وضع حدود جغرافية صارمة لاختبارات التشغيل الآلي.
  11. تشير التوقعات إلى زيادة الرقابة وقيود اختبار إلزامية لمطوري الذكاء الاصطناعي المستقلين.

Why it matters

التأثير الفوري على الولايات المتحدة: عززت الوكالات البلدية يقظتها ضد عمليات تقديم نماذج الويب الآلية. التأثير المحتمل طويل الأجل على الولايات المتحدة: ستحكم حدود تنظيمية أكثر صرامة اختبار وكلاء الذكاء الاصطناعي المستقلين. المجموعات الأكثر تضرراً: وكالات إنفاذ القانون، والحكومات البلدية، ومطورو الذكاء الاصطناعي. أولوية القارئ: مراقبة التحديثات التنظيمية الرسمية وإعلانات الامتثال لسلامة البرمجيات.

Coverage notes

اليسار: يؤكد على المساءلة المؤسسية ومخاطر عوامل الذكاء الاصطناعي المستقلة غير المنظمة. الوسط: يقدم تفاصيل واقعية مقدمة من بيانات الشرطة والإفصاحات المقدمة من الشركات. اليمين: يركز على الهدر المحتمل للموارد الحكومية والأمن البلدي.

Primary report

بيان شرطة فيلادلفيا بخصوص تقديم معلومات خاطئة عن جريمة قتل من قبل Anthropic.

Sources

JQJO Editorial Desk · Human reviewed · AI assisted. Report a correction.

Editorial policy and corrections · Our team

فتاة مراهقة تُقتل في منزل بأركاديا؛ مطلق النار المشتبه به يفر ويحاول الانتحار في باسادينا

Tap title to read story

0:00 / 0:18

سيكسرز يكملون عودة بـ 29 نقطة ويهزمون كافالييرز 114-106

Tap title to read story

0:00 / 0:47

كروم يعزز الحماية بتنبيهات المواقع المشبوهة

Tap title to read story

0:00 / 0:55

كسر حماية Switch 2 يكشف ثغرة في البرامج المنزلية

Tap title to read story

0:00 / 1:18

تقرير Fortune: جهاز Xbox Helix من Microsoft قد يكلف ما يصل إلى 1800 دولار

Tap title to read story

0:00 / 1:02

وزارة العدل تفتح تحقيقًا في كوري ليواندوسكي

Tap title to read story

0:00 / 0:19

تشارلي إكس سي إكس تظهر ظهورًا خاصًا في فيلم الإثارة القادم لمارتن سكورسيزي

Tap title to read story

0:00 / 1:02

أتلانتا فالكونز تنشر شعارًا قديمًا يثير ردود فعل غاضبة بسبب تشابهه مع النازية

Tap title to read story

0:00 / 0:54

مارشال فولك مصاب بمرض باركنسون

Tap title to read story

0:00 / 0:41

إعصار شامبي يهدد تايوان واليابان

Tap title to read story

0:00 / 0:53

JQJO

Find your next story

Search JQJO’s current coverage.