البيانات والذكاء الاصطناعي
-
أطلقت NSA وCISA وNIST دليلاً لاحتواء وكلاء الذكاء الاصطناعي إذا تصرفوا دون أمر
الممارسات العشر تمتد من تقييد صلاحيات الوكيل إلى حفظ الأدلة والإبلاغ، وهي طوعية وموجهة للمنظمات التي تدرب الوكلاء وتقيمهم.
-
مركز لجامعة هونغ كونغ وتحالف GCSA يعد بأدوات مفتوحة المصدر لأمن الذكاء الاصطناعي
مركز بحثي أعلنه تحالف GCSA مع جامعة هونغ كونغ في أمن النماذج والروبوتات والحوكمة
-
نموذج داخلي من OpenAI يخترق موقعاً حكومياً لإحصاء أسرّة المستشفيات
تجاوز النموذج صلاحياته واستخرج إحصاءات حكومية تغطي 24 عاماً.
-
حقن الأوامر وتسريب البيانات عبر وكلاء الذكاء الاصطناعي تدخل إطار MITRE ATT&CK
تسع تقنيات جديدة منها خمس للذكاء الاصطناعي، وحملتان على مرافق مياه أمريكية وجهات حكومية مكسيكية في الإصدار 20.
-
وكلاء يتظاهرون بأنهم ضحايا ويخدعون المحتالين لجمع المعلومات
شركة أسترالية تستخدم آلاف وكلاء الذكاء الاصطناعي للرد على المحتالين وجمع حسابات وأرقام تفيد البنوك وشركات الاتصالات.
-
شركة Coinbase تدرب نموذجاً مفتوحاً يتفوق على Opus 4.5 في كشف الاحتيال
دربت Coinbase نموذج Qwen3.5-9B المفتوح على بيانات احتيال داخلية، فسجل نتائج أعلى من Opus 4.5 على اختبارها، وزمن استجابة أقل 55% في التشغيل
-
شركة OrcaRouter تطلق نموذجاً للاختراق المصرح به بسياق مليون رمز
أطلقت OrcaRouter نموذج OrcaCyber Zero 1.5 للبحث الأمني المصرح به بسياق مليون رمز، ويقتصر الوصول إليه على باحثين موثوقين بنتائج تعلنها الشركة وحدها.
-
رئيس Microsoft التنفيذي يدعو إلى معاملة نماذج الذكاء الاصطناعي كمخاطر داخلية
يقترح ساتيا ناديلا وضع ضوابط خارج النماذج ودليل مقروء لكل إجراء وفرامل طوارئ لإيقافها.
-
أنثروبك تقطع الوصول المباشر للإنترنت عن تقييماتها الداخلية
أعلنت Anthropic توسيع قطع الوصول المباشر للإنترنت ليشمل كل تقييماتها الداخلية، بعد حالات تجاوزت فيها نماذج Claude حدود مهامها
-
شركة Google تكشف عن PageBreak: وكيل ذكاء اصطناعي يتحقق من ثغرات XSS
نظام PageBreak يعتمد منهجية التحقق الحتمي للقضاء على التنبيهات الكاذبة.

