31 Mart 2025'e kadar sınırlı olması gereken algoritma (VSA) video gözetiminin denemesi, Aralık 2027'ye kadar uzatma yolunda. Barnier Hükümeti geçen yıl düşürmeden önce deneyimi genişletme niyetini gizlememiş olsaydı. Bayrou hükümeti, bu hafta daha ileri gitti.
Yürütme gerçekten de ulaşım yasası yasasında bir değişiklik ekledi. Ulusal Meclis tarafından akşam 11 Şubat Salı günü kabul edilen metin, Ortak komiteden yeşil ışık almalıdır – yedi milletvekili ve yedi senatörden oluşan bir komisyon. Fransızların güvenliği için gerekli olan teknolojiyi düşünen herkes gibi, hak savunucularının kalkanlarının kaldırılmasını uyandıran, ancak Ulaştırma Bakanı tarafından alkışlanan bu tartışmalı meseleye geri döndü.
1. Bu VSA nedir?
AI'da katılan video gözetimi, ilk kez – 19 Mayıs 2023'teki Olimpiyat Oyunları ile ilgili yasalarla, sivil haklar ve politikaların savunulması için çok sayıda dernek alarmına rağmen Fransa'da ilk kez – Avrupa'da bir ilk – yetkilendirildi.
Cihaz yüz tanınmasına izin vermez, ancak “anormal olaylara” dayanmaktadır. Algılama: somut olarak algoritmalar, video gözetim sistemleri tarafından çekilen görüntüleri otomatik olarak analiz edecektir. Algoritmik algılama araçları ile birleştiğinde kameralar, “anormal davranış” tanımlanırsa polise uyarmadan önce kalabalığı inceliyor, görüntüleri toplıyor ve analiz ediyor – ikincisinin harekete geçmesi ya da hareket etmemesi.
Bu “anormal davranışlar” bir kararnamede tanımlanmıştır. Mevcut VSA sisteminde, algoritmalar aşağıdaki olayları tespit edebilir:
Başlangıçta, bu cihazın Mayıs 2023'te Stade De France'daki Şampiyonlar Ligi finalinin fiyaskosundan sonra Olimpiyat Oyunlarının güvenliği ile sınırlı olağanüstü olması gerekiyordu. Ancak nihayet dünya yarışmasından sonra Mart 2025'e kadar uzatıldı. Benimsenen metin, kameraların kullanımının “ Spor, eğlence veya kültürel etkinlikler ” DSÖ, ” Ölçeklerine veya koşullarına göre, özellikle terörizm eylemlerinin risklerine veya insanların güvenliğine ciddi hasarlara maruz kalmaktadır. ».
Deney birçok güvence ile planlanmıştır. Sınırlı zaman içinde, olası uzantısı hakkında bir tartışma yapılmadan önce, bu kullanımın değerlendirilmesini oluşturan bir değerlendirme raporuna tabi olmalıdır.
2023 yılında Anayasa Konseyi, sistemi sürdürecek herhangi bir projenin bakımı ile yeniden incelenmesi gerektiğini, değerlendirmesinin sonuçlarının dengeyi bir yöne veya diğerine devretmesi gerektiğini tahmin etti.
Ancak pratikte, bu teknolojinin savunucuları değerlendirmenin sistem lehine karar vermesini beklemedi. Geçen yaz, Paris polis valisi Laurent Nunez, sürdürülebilirliğini zaten çağırdı. Tıpkı Michel Barnier gibi, sonra Başbakan ve son zamanlarda Ulaştırma bakanı ve tasarının yazarı Philippe Tabarot (LR). Geçen Ocak ayında, ikincisi, değerlendirme raporu verilmeden önce teknolojinin olduğunu açıkladı ” Oldukça iyi çalıştı “Ve o” (AIT) çılgın zamandan tasarruf etmesine izin ver ». Sayfalarında tahmin ediyor Parisli saydığını ” Bir kalabalığındaki olağandışı hareketleri tespit etmeyi mümkün kılan bu kadar “akıllı” kameraları ve analiz algoritmalarını sürdürün ».
3. Deney pratikte nasıl gerçekleşti?
Uygulamada, VSA deneyleri son aylarda sınırlıdır. Wintics'in sadece CityVision tespit yazılımı dört kuruluş tarafından kullanıldı: Polis Eyaleti (PP), Otonom Régie Des Transports Parisien (RATP), Ulusal Ulaştırma Şirketi (SNCF) ve Cannes Şehri.
İkincisi, deneyin gerçekleşme yolunda kamuya açık bir şekilde gelişmediyse, bir değerlendirme komitesi tarafından yazılan bir rapor, biraz daha fazla bilmemize izin verdi.
4. Değerlendirme Komitesi ne sonuçlandırıyor?
Bu komite Paris'teki Olimpiyat Oyunları Yasası tarafından sağlandı: 31 Aralık 2024'ten önce değerlendirmesini hükümete iade etmek zorunda kaldı. Bilançosunu Ocak ortasına koyarsa-belge nihayet 7 Şubat'ta halka açıldı-nihayet kamuya açıklandı- Beyaz bir Seing olmaktan çok uzak. Belge bir devre ton değerlendirmesi hazırlıyor. Her şeyden önce tespit edilmesi gereken durumların yarısı bir kenara bırakıldı.
Araçların tespit etmesi gereken üç senaryo, yani yangın çıkışları, insanların düşmesi veya ateşli silahların tespiti, RATP veya SNCF tarafından test edilmemiştir. Silah taraması Cannes'da test edildi, ancak bu bir başarılı değildi, yazarlar çok sayıda yanlış pozitif olduğunu belirtti.
Ateşin veya düşmenin başlangıcında, raporda da orada ” Düşük teknolojik olgunluk – Anlayın, araçlar onları iyi tespit etmiyor – örneğin yangınlar için alınan otomobillerin farları. Terk edilmiş nesneler için de aynı şey: Yazılım tarafından SNCF'ye gönderilen 270 uyarıdan sadece 21'i alakalı kabul edildi. Bazıları yanlış tespit edilen bankları, çöp kutularını ve hatta evsizleri tespit ederdi.
Yasaklı yön, kalabalıklar ve yasaklanmış bölgedeki saldırıdaki hareketler (örneğin pistlerde herhangi birini tespit etmek için) de uygun şekilde tespit edilmiştir. Kalabalık hareketleri için komite, özellikle neyle yola çıkıyor “ RATP, büyük bir kalabalık hareket hızını programlamıştı, böylece hiçbir uyarı kaydedilmedi Raporun altını çiziyor.
Raporda görüşülen bazı kullanıcılar (polis ve SNCF ve RATP ajanları) hevesli olsa da – raporun yazarları ihtiyatlı olmayı tercih ettiler. İkincisi için, yalnızca tek bir yazılımla ilgili olan ve yalnızca sınırlı kullanımları değerlendiren mevcut deney, VSA'nın alaka düzeyine karar vermeye izin vermez. Ne de deneyi genişletme veya genişletme fırsatına karar vermek.
5. Hükümet ne istiyor?
Ancak hükümet için, bu “ne evet ne de hayır” ona, en azından şu an için deneyi sürdürmeden uzatma fırsatı vermiyor. “RATP ve SNCF”, sistemleri test etmek ve “organizasyonlarını geliştirmek” için yeterli zamana sahip olmayacağından, Değişiklik gerekçesiyle yazıyorlar, bu deneyi 21 ay daha genişletelim, 31 Aralık 2027'ye kadar.
Planlanan başka bir değişiklik: Parlamentoya koyması gereken hükümet, ” en geç 31 Aralık 2024, deneyin uygulanması için bir değerlendirme raporu “, Metin yasama sürecinin sonunda olduğu gibi kabul edilirse, sistemin bitiminden üç ay önce 30 Eylül 2027'ye kadar olacak.
6. Haklar Dernekleri ve Savunucuları Korku Nelerdir?
Deneyin ilk süresi, Mart 2025'e kadar, tempster metinleri tarafından zaten çok eleştirildi. Birçoğu, olağanüstü olması gereken önlemin sonunda sıradan yasalara entegre olduğundan korkuyordu-bu nedenle, geçmişte terörle mücadele önlemleri için olduğu gibi norm haline geliyor. “” Bu, bu tür “olağanüstü” önlemlerin hızlı bir şekilde kaldırılması nadirdir. Yerinde, izleme ve kontrol önlemleri standart haline gelir “Mart 2023'te bir rostrumda uluslararası kuruluşların bir kolektifi yazdı DünyaYasanın kabul edilmesinden çok önce.
Bu korkunun yanı sıra, VSA hakların savunucuları tarafından güçlü bir şekilde eleştiriliyor, çünkü öncelikle hiçbir çalışma etkinliğini asla kanıtlamadı. Nisan 2024'te yayınlanan Senator Raporu budur. ” Bir deney olarak kullanılan Depeche modu konseri sırasında (VSA'dan editörün notundan), (algoritmik video gözetiminin, editörün notunun) aracının işe yaramadığını anladık. Olimpiyat Oyunları ek deney alanı sunacak, ancak hiçbir durumda bir güvenlik aracı yok », Senato'nun önündeki raporun sunumu sırasında Agnès Canayer (Les Républicains) metninin senatör ve raportörünün altını çizdi.
Öte yandan, bu teknoloji, geçen yıl bu uluslararası kuruluşların bu kolektifi tarafından açıklandığı gibi, özgürlüklere yönelik bir saldırı olacaktır: ” Bu denetimli izleme önlemleri (…), gizlilik hakkı, toplantı özgürlüğü hakkı ve ayrımcılık yapmama hakkı gibi çeşitli temel haklara kıyasla kabul edilemez riskler ima etmektedir. ».
7 Şubat'ta bir Vitrioli basın açıklaması yayınlayan Net'in dörtgeninde, hükümetin sadece bir hedefi var: “ VSA'yı her ne pahasına olursa olsun empoze edin “Bu teknoloji işe yarıyor olsun ya da olmasın. Hakların Savunması Derneği için” VSA genişletilmemelidir. Yasaklanmalı ». Özellikle çünkü ” kamusal alanı kalıcı bir sosyal kontrol alanına dönüştüren, “iyi vatandaşlar” ve “şüpheliler” ü dönüştüren bir gözetim binasına katkıda bulunur. ».
Geçen Temmuz ayında, Fransız hükümetine insan hakları konusunda tavsiyelerde bulunan bir organ olan Ulusal Danışma İnsan Hakları Komisyonu (CNCDH), mevcut VSA sistemine kırmızı top çekmişti. Bir danışma görüşüne göre, bağımsız otorite ” Kamu yetkilileri, video koruma cihazlarının konuşlandırılmasını hızlandırma arzusunu yeniden değerlendirdiler ” açıklama “Algoritmik video gözetiminin kullanımı ile ilgili demokratik bir tartışmanın organizasyonunu sorun », Cnil ile birlikte, özel hayatın Fransız jandarması.
Yürütme gerçekten de ulaşım yasası yasasında bir değişiklik ekledi. Ulusal Meclis tarafından akşam 11 Şubat Salı günü kabul edilen metin, Ortak komiteden yeşil ışık almalıdır – yedi milletvekili ve yedi senatörden oluşan bir komisyon. Fransızların güvenliği için gerekli olan teknolojiyi düşünen herkes gibi, hak savunucularının kalkanlarının kaldırılmasını uyandıran, ancak Ulaştırma Bakanı tarafından alkışlanan bu tartışmalı meseleye geri döndü.
1. Bu VSA nedir?
AI'da katılan video gözetimi, ilk kez – 19 Mayıs 2023'teki Olimpiyat Oyunları ile ilgili yasalarla, sivil haklar ve politikaların savunulması için çok sayıda dernek alarmına rağmen Fransa'da ilk kez – Avrupa'da bir ilk – yetkilendirildi.
Cihaz yüz tanınmasına izin vermez, ancak “anormal olaylara” dayanmaktadır. Algılama: somut olarak algoritmalar, video gözetim sistemleri tarafından çekilen görüntüleri otomatik olarak analiz edecektir. Algoritmik algılama araçları ile birleştiğinde kameralar, “anormal davranış” tanımlanırsa polise uyarmadan önce kalabalığı inceliyor, görüntüleri toplıyor ve analiz ediyor – ikincisinin harekete geçmesi ya da hareket etmemesi.
Bu “anormal davranışlar” bir kararnamede tanımlanmıştır. Mevcut VSA sisteminde, algoritmalar aşağıdaki olayları tespit edebilir:
- yangın çıkışları;
- ateşli silahlar;
- yasaklanmış veya hassas bir alanda bir kişinin geçişi veya varlığı;
- insanların çok fazla yoğunluğu;
- bir kalabalık hareketi;
- Terk edilmiş nesnelerin varlığı.
Başlangıçta, bu cihazın Mayıs 2023'te Stade De France'daki Şampiyonlar Ligi finalinin fiyaskosundan sonra Olimpiyat Oyunlarının güvenliği ile sınırlı olağanüstü olması gerekiyordu. Ancak nihayet dünya yarışmasından sonra Mart 2025'e kadar uzatıldı. Benimsenen metin, kameraların kullanımının “ Spor, eğlence veya kültürel etkinlikler ” DSÖ, ” Ölçeklerine veya koşullarına göre, özellikle terörizm eylemlerinin risklerine veya insanların güvenliğine ciddi hasarlara maruz kalmaktadır. ».
Deney birçok güvence ile planlanmıştır. Sınırlı zaman içinde, olası uzantısı hakkında bir tartışma yapılmadan önce, bu kullanımın değerlendirilmesini oluşturan bir değerlendirme raporuna tabi olmalıdır.
2023 yılında Anayasa Konseyi, sistemi sürdürecek herhangi bir projenin bakımı ile yeniden incelenmesi gerektiğini, değerlendirmesinin sonuçlarının dengeyi bir yöne veya diğerine devretmesi gerektiğini tahmin etti.
Ancak pratikte, bu teknolojinin savunucuları değerlendirmenin sistem lehine karar vermesini beklemedi. Geçen yaz, Paris polis valisi Laurent Nunez, sürdürülebilirliğini zaten çağırdı. Tıpkı Michel Barnier gibi, sonra Başbakan ve son zamanlarda Ulaştırma bakanı ve tasarının yazarı Philippe Tabarot (LR). Geçen Ocak ayında, ikincisi, değerlendirme raporu verilmeden önce teknolojinin olduğunu açıkladı ” Oldukça iyi çalıştı “Ve o” (AIT) çılgın zamandan tasarruf etmesine izin ver ». Sayfalarında tahmin ediyor Parisli saydığını ” Bir kalabalığındaki olağandışı hareketleri tespit etmeyi mümkün kılan bu kadar “akıllı” kameraları ve analiz algoritmalarını sürdürün ».
3. Deney pratikte nasıl gerçekleşti?
Uygulamada, VSA deneyleri son aylarda sınırlıdır. Wintics'in sadece CityVision tespit yazılımı dört kuruluş tarafından kullanıldı: Polis Eyaleti (PP), Otonom Régie Des Transports Parisien (RATP), Ulusal Ulaştırma Şirketi (SNCF) ve Cannes Şehri.
İkincisi, deneyin gerçekleşme yolunda kamuya açık bir şekilde gelişmediyse, bir değerlendirme komitesi tarafından yazılan bir rapor, biraz daha fazla bilmemize izin verdi.
4. Değerlendirme Komitesi ne sonuçlandırıyor?
Bu komite Paris'teki Olimpiyat Oyunları Yasası tarafından sağlandı: 31 Aralık 2024'ten önce değerlendirmesini hükümete iade etmek zorunda kaldı. Bilançosunu Ocak ortasına koyarsa-belge nihayet 7 Şubat'ta halka açıldı-nihayet kamuya açıklandı- Beyaz bir Seing olmaktan çok uzak. Belge bir devre ton değerlendirmesi hazırlıyor. Her şeyden önce tespit edilmesi gereken durumların yarısı bir kenara bırakıldı.
Araçların tespit etmesi gereken üç senaryo, yani yangın çıkışları, insanların düşmesi veya ateşli silahların tespiti, RATP veya SNCF tarafından test edilmemiştir. Silah taraması Cannes'da test edildi, ancak bu bir başarılı değildi, yazarlar çok sayıda yanlış pozitif olduğunu belirtti.
Ateşin veya düşmenin başlangıcında, raporda da orada ” Düşük teknolojik olgunluk – Anlayın, araçlar onları iyi tespit etmiyor – örneğin yangınlar için alınan otomobillerin farları. Terk edilmiş nesneler için de aynı şey: Yazılım tarafından SNCF'ye gönderilen 270 uyarıdan sadece 21'i alakalı kabul edildi. Bazıları yanlış tespit edilen bankları, çöp kutularını ve hatta evsizleri tespit ederdi.
Yasaklı yön, kalabalıklar ve yasaklanmış bölgedeki saldırıdaki hareketler (örneğin pistlerde herhangi birini tespit etmek için) de uygun şekilde tespit edilmiştir. Kalabalık hareketleri için komite, özellikle neyle yola çıkıyor “ RATP, büyük bir kalabalık hareket hızını programlamıştı, böylece hiçbir uyarı kaydedilmedi Raporun altını çiziyor.
Raporda görüşülen bazı kullanıcılar (polis ve SNCF ve RATP ajanları) hevesli olsa da – raporun yazarları ihtiyatlı olmayı tercih ettiler. İkincisi için, yalnızca tek bir yazılımla ilgili olan ve yalnızca sınırlı kullanımları değerlendiren mevcut deney, VSA'nın alaka düzeyine karar vermeye izin vermez. Ne de deneyi genişletme veya genişletme fırsatına karar vermek.
5. Hükümet ne istiyor?
Ancak hükümet için, bu “ne evet ne de hayır” ona, en azından şu an için deneyi sürdürmeden uzatma fırsatı vermiyor. “RATP ve SNCF”, sistemleri test etmek ve “organizasyonlarını geliştirmek” için yeterli zamana sahip olmayacağından, Değişiklik gerekçesiyle yazıyorlar, bu deneyi 21 ay daha genişletelim, 31 Aralık 2027'ye kadar.
Planlanan başka bir değişiklik: Parlamentoya koyması gereken hükümet, ” en geç 31 Aralık 2024, deneyin uygulanması için bir değerlendirme raporu “, Metin yasama sürecinin sonunda olduğu gibi kabul edilirse, sistemin bitiminden üç ay önce 30 Eylül 2027'ye kadar olacak.
6. Haklar Dernekleri ve Savunucuları Korku Nelerdir?
Deneyin ilk süresi, Mart 2025'e kadar, tempster metinleri tarafından zaten çok eleştirildi. Birçoğu, olağanüstü olması gereken önlemin sonunda sıradan yasalara entegre olduğundan korkuyordu-bu nedenle, geçmişte terörle mücadele önlemleri için olduğu gibi norm haline geliyor. “” Bu, bu tür “olağanüstü” önlemlerin hızlı bir şekilde kaldırılması nadirdir. Yerinde, izleme ve kontrol önlemleri standart haline gelir “Mart 2023'te bir rostrumda uluslararası kuruluşların bir kolektifi yazdı DünyaYasanın kabul edilmesinden çok önce.
Bu korkunun yanı sıra, VSA hakların savunucuları tarafından güçlü bir şekilde eleştiriliyor, çünkü öncelikle hiçbir çalışma etkinliğini asla kanıtlamadı. Nisan 2024'te yayınlanan Senator Raporu budur. ” Bir deney olarak kullanılan Depeche modu konseri sırasında (VSA'dan editörün notundan), (algoritmik video gözetiminin, editörün notunun) aracının işe yaramadığını anladık. Olimpiyat Oyunları ek deney alanı sunacak, ancak hiçbir durumda bir güvenlik aracı yok », Senato'nun önündeki raporun sunumu sırasında Agnès Canayer (Les Républicains) metninin senatör ve raportörünün altını çizdi.
Öte yandan, bu teknoloji, geçen yıl bu uluslararası kuruluşların bu kolektifi tarafından açıklandığı gibi, özgürlüklere yönelik bir saldırı olacaktır: ” Bu denetimli izleme önlemleri (…), gizlilik hakkı, toplantı özgürlüğü hakkı ve ayrımcılık yapmama hakkı gibi çeşitli temel haklara kıyasla kabul edilemez riskler ima etmektedir. ».
7 Şubat'ta bir Vitrioli basın açıklaması yayınlayan Net'in dörtgeninde, hükümetin sadece bir hedefi var: “ VSA'yı her ne pahasına olursa olsun empoze edin “Bu teknoloji işe yarıyor olsun ya da olmasın. Hakların Savunması Derneği için” VSA genişletilmemelidir. Yasaklanmalı ». Özellikle çünkü ” kamusal alanı kalıcı bir sosyal kontrol alanına dönüştüren, “iyi vatandaşlar” ve “şüpheliler” ü dönüştüren bir gözetim binasına katkıda bulunur. ».
Geçen Temmuz ayında, Fransız hükümetine insan hakları konusunda tavsiyelerde bulunan bir organ olan Ulusal Danışma İnsan Hakları Komisyonu (CNCDH), mevcut VSA sistemine kırmızı top çekmişti. Bir danışma görüşüne göre, bağımsız otorite ” Kamu yetkilileri, video koruma cihazlarının konuşlandırılmasını hızlandırma arzusunu yeniden değerlendirdiler ” açıklama “Algoritmik video gözetiminin kullanımı ile ilgili demokratik bir tartışmanın organizasyonunu sorun », Cnil ile birlikte, özel hayatın Fransız jandarması.
CNIL, birkaç kez, algoritmik video gözetiminin genelleştirilmesi karşısında uyanıklığı çağırdı. Tarafından sorgulandı Bağlam Ekim ayında, özel hayatımızın koruyucusu ” ısrar etti Değerlendirmenin, titiz, çelişkili ve çok disiplinli bir şekilde ölçülmesi için önemi [leur apport] Bu deneyin bir parçası olarak, Bu sistemlerin olası bir sürdürülebilirliğini önleyemeyen ».
Herhangi bir 01net haberini kaçırmamak için bizi Google News ve WhatsApp'ta takip edin.