ISO 8800:2024, karayolu taşıtlarında yapay zeka (AI) sistemleriyle ilgili güvenlik sorunlarını ele almak için bir çerçeve sunmaktadır. Bu standart, özellikle makine öğrenimi (ML) sistemlerine odaklanarak, mevcut güvenlik standartlarını (örneğin, ISO 26262 ve ISO 21448) AI teknolojilerini kapsayacak şekilde genişletir ve özelleştirir. Aşağıda bu standardın temel noktaları ve ilkeleri bulunmaktadır:
Genel Yaklaşım ve Kapsam
- Kapsam:
- Mopedler ve engelli sürücülere yönelik özel sistemler hariç olmak üzere, karayolu taşıtlarında AI teknolojisini kullanan güvenlik odaklı sistemlere yöneliktir.
- Çerçeve:
- AI bileşenlerinin rastgele donanım hataları, sistematik hatalar ve işlevsel yetersizliklerinden kaynaklanan istenmeyen güvenlik davranışlarını ele alır.
- AI Odaklılık:
- Özellikle makine öğrenimi sistemlerine odaklanır, ancak belirli AI metodolojilerinin (örneğin, derin öğrenme ağları) detaylarına girmez.
Ana Unsurlar ve Kavramlar
-
Mevcut Standartlarla Entegrasyon:
- AI sistemleri için ISO 26262 (Fonksiyonel Güvenlik) ve ISO 21448’in (Amaçlanan İşlevselliğin Güvenliği) AI özelindeki ihtiyaçlara göre özelleştirilmesini sağlar.
- AI güvenlik yönetimi için bu standartların soyutlama katmanları arasında haritalama yapar ve uygun iş akışlarını tanımlar.
-
AI Güvenlik Yaşam Döngüsü:
- AI sistemleri için özel bir güvenlik yaşam döngüsü önerir ve operasyon sırasında sürekli güvenceye vurgu yapar.
- Tasarım, test, doğrulama ve operasyonel izleme süreçlerini içerir.
-
AI’ye Özgü Tanımlar ve Modeller:
- AI hatası, AI kontrol edilebilirliği, AI güvenlik gereksinimleri gibi terimler tanımlanmıştır.
- İşlevsel yetersizlikler, çıktı yetersizlikleri ve sistematik hatalar gibi riskleri tanımlar ve bunların yönetilmesi gerektiğini belirtir.
-
Risk Azaltma ve Güvence:
- AI sistemleri için güvence argümanları geliştirilir ve işlevsel yetersizlikleri ele almak için risk azaltma önlemleri sunar.
- Hem nicel hem de nitel önlemleri birleştirerek kanıta dayalı doğrulama ve geçerlilik süreçlerini teşvik eder.
Belirli Hükümler
-
Veriyle İlgili Hususlar:
- Veri kümesi yaşam döngüsü yönetimi için kurallar belirler. Bu kapsamda veri kümesi doğrulama, güvenlik analizi ve bakım süreçlerini içerir.
- Veri dağıtım hataları gibi yetersizlikleri ve hibrit veri kümelerinin (gerçek ve sentetik) önemini vurgular.
-
Doğrulama ve Geçerlilik:
- AI bileşenlerini ve sistemlerini test etmek için stratejiler sunar ve hem sanal hem de fiziksel test ortamlarından yararlanır.
- Güvenlik performansını değerlendirmek için metrikler kullanır ve operasyon sırasında sürekli güncellemeler önerir.
-
Sistem Mimarisi:
- AI sistem güvenliği endişelerini ele almak için mimari yedeklilik ve çeşitlilik önerir.
- Belirsiz tahminler için çıktı reddetme sınıfları gibi mimari önlemleri teşvik eder.
-
Operasyonel Güvenlik:
- Operasyon sırasında güvenlik güvencesinin sürekli izlenmesini ve yeniden değerlendirilmesini teşvik eder.
- Alan verisi toplama, yeniden eğitim ve dağıtım için risklere karşı önlemler sunar.
Daha Geniş AI Standartları ile Uyum
- Küresel Bağlam:
- AI teknolojilerini sektörler arası ele alan ISO/IEC standartlarıyla uyumludur (örneğin, ISO/IEC TR 5469).
- İşbirlikçili:
- AI’ya özgü güvenlik önlemlerini genel AI özellikleriyle birleştirir ve küresel güvenlik protokolleriyle uyum sağlar.
Yinelenen Gelişim Felsefesi
- AI’nın hızla gelişen doğasını ve güvenlik üzerindeki etkilerini kabul eder.
- Gelişmelere veya ortaya çıkan risklere uyum sağlamak için hem AI sistemlerini hem de genel güvenlik kavramlarını sürekli iyileştirmeyi önerir.
ISO 8800:2024, mevcut güvenlik standartlarının kritik bir uzantısı olarak, AI’nın otomotiv sistemlerinde neden olduğu benzersiz zorlukları ele alır. Dinamik ortamlarda AI sistemi güvenliğini sağlamak için tasarım, uygulama ve operasyonel aşamalarda sağlam, kanıta dayalı uygulamaları vurgular.
Notlar
- Terminolojik Güncellemeler: "Kara taşıtları" → "Karayolu taşıtları"; "Yinelenen Gelişim" → "Tekrarlamalı Geliştirme"; diğer teknik terimler bağlama uygun olarak güncellenmiştir.
- Gerekirse belirli kısımlar üzerinde daha fazla özelleştirme yapılabilir. Daha fazla destek için lütfen bilgi verin!
Not: Bu yayın AI kullanılarak oluşturulmuş, kontrol edilerek yayınlanmıştır.
