AI ve PII Veri Gizliliği Uyumluluğu için Yeni ICO Yönergeleri

Yapay Zeka Verileri Yasal Olarak Nasıl Toplanır?

ICO'nun rehberliği, AI kullanımının inkar edilemez avantajlara sahip olmasına rağmen, veri koruması ciddiye alınmadığında insanların özgürlüklerini ve haklarını da tehlikeye atabileceğini kabul ediyor. Bu amaçla, onların rehberliği, işletmelerin bu riskleri nasıl değerlendirmesi ve azaltması gerektiği konusunda yararlı bir çerçeve sağlar.

Kılavuz, işletmelerin AI ve kişisel verileri işleme biçimlerini iyileştirmek için benimseyebilecekleri sekiz stratejik unsuru kapsar:

1. Yapay Zeka Oluştururken ve Uygularken Riske Dayalı Bir Prosedür Kullanın

AI kullanırken duruma göre gerekli olup olmadığını belirlemelisiniz. AI, kişisel bilgilerle etkileşime girdiğinde genellikle yüksek riskli bir teknoloji olarak kabul edilir. Bir şirket, sistemlerini düzgün çalışacak şekilde iyileştirmek için büyük miktarda veriye ihtiyaç duyar ve verilerimiz yeniden satılabilir ve bu verileri kimin aldığından veya nasıl kullanıldığından habersiz hale gelebilir.

Böylece, daha verimli ve mahremiyeti koruyan bir ikame olabilir.

ICO'nun belirttiği gibi, riskleri değerlendirmeli ve bunları azaltmak için gerekli organizasyonel ve teknik önlemleri almalısınız. Gerçekçi olarak, tüm riskleri tamamen ortadan kaldırmak imkansızdır ve veri koruma yasaları bunu yapmanızı zorunlu kılmaz, ancak şunları yaptığınızdan emin olun:

• Yapay zeka kullanımınızın ortaya çıkardığı veri koruma yasalarına uymama riskini belirlemek ve azaltmak ve ayrıca bireylerin zarar görmesini önlemek için bir veri koruma etki değerlendirmesi (DPIA) kullanın
• Tehlikeyi daha iyi anlamak için AI kullanımınızın potansiyel olarak etkilediği birçok gruptan girdi isteyin

Bir DPIA yasal olarak gerekli olduğunda, bir yapay zeka sistemini devreye almadan önce bir DPIA yürütmeli ve bulduğunuz riskleri azaltmanıza veya yönetmenize yardımcı olacak uygun organizasyonel ve teknik koruma önlemleri almalısınız. Herhangi bir işleme yapılmadan önce, yeterince azaltamayacağınız bir risk tespit ederseniz yasal olarak ICO ile konuşmanız gerekir.

2. AI Sisteminizin Kararlarını Etkilenecek Olanlara Nasıl Açıklayacağınızı Düşünün

ICO'ya göre, özellikle makine öğrenimi ve karmaşık algoritmalar söz konusu olduğunda, yapay zekanın belirli kararları ve sonuçları nasıl ürettiğini açıklamak zor olabilir - ancak bu, insanlara açıklama yapmamanız gerektiği anlamına gelmez.

İşte ICO'nun önerdiği şey:

• İnsanlara kişisel verilerini nasıl ve neden topladığınız ve kullandığınız konusunda açık, açık ve şeffaf olun
• AI sisteminizin kullanılacağı ortamda hangi gerekçelendirmenin gerekli olduğunu düşünün.
• İnsanların açıklamanızı nasıl algılayacağını düşünün
• Gerekçenizin ne kadar kapsamlı olması gerektiğini belirlemek için AI sisteminizin seçimlerinin olası etkilerini analiz edin.
• Bireysel hak taleplerinin nasıl yönetileceğini düşünün

3. Yalnızca Yapay Zeka Sisteminizi Oluşturmak İçin Gerekli Bilgileri Toplayın

ICO, mümkün olduğunda veri toplamanın sınırlandırılmasını tavsiye eder. Bu, verilerin toplanamayacağı anlamına gelmez - yalnızca verilerin GDPR standartlarını karşılayacak şekilde yönetilmesi anlamına gelir.

Malısın:

• Kullandığınız kişisel bilgilerin doğru, yeterli, ilgili ve sınırlı olduğundan emin olun - bu, AI'yı kullandığınız bağlama bağlı olarak değişiklik gösterecektir.
• Kişisel verileri işlemek için yapay zekayı kullandığınız durum için hangi gizliliği koruma yöntemlerinin uygun olduğunu düşünün.

Veri koruması için doğruluk ilkesi, bir AI sisteminin %100 doğru olmasını gerektirmez. Bunun yerine kuruluşlar, sonuçların adilliğini ve genel doğruluğunu garanti edecek prosedürlerin yürürlükte olduğundan emin olmalıdır.

4. Önyargı ve Ayrımcılık Risklerini Erken Bir Aşamada Etiketleyin

Bir AI sisteminin önyargılı olabileceği veya ayrımcılığa yol açabileceği yollar vardır. Bu, hatalı, dengesiz veri kümeleri oluşturabilir ve bu sorunu erken ele almak, veri gizliliği uyumluluğunun önemli bir yönüdür.

ICO size şunları önerir:

• Topladığınız verilerin topluluk veya AI sisteminden etkilenen farklı insan grupları için doğru, temsili, güvenilir, alakalı ve güncel olup olmadığını belirleyin.
• Çeşitli gruplar için potansiyel çıkarımların ve sonuçların haritasını çıkararak yapay zeka sistemi tarafından verilen kararların kabul edilebilir olup olmadığını belirleyin.

5. Verileri Düzgün Hazırlamak İçin Zaman ve Kaynak Yatırımı Yapın

Daha önce de belirtildiği gibi, AI yalnızca topladığı veriler kadar güvenilirdir. Bu nedenle, kuruluşların gerekli verileri toplamak için yeterli kaynak ve zamanın ayrıldığından emin olmaları gerekir.

ICO şunları önerir:

• Korunan özellikleri veya özel kategori verilerini içeren verilerin etiketlenmesi söz konusu olduğunda, tanımlanmış kriterler ve sorumluluk hatları olmalıdır.
• Tutarlılığı korumak ve olağandışı durumlarda yardımcı olmak için birden çok insan etiketleyiciyi dahil etmelisiniz

6. AI Sisteminizin Güvenli Olduğundan Emin Olun

AI sistemleri, riskleri artırma veya yeni güvenlik açıkları getirme potansiyeline sahiptir.

Güvenlik önlemleri söz konusu olduğunda, herkese uyan tek bir yaklaşım yoktur. Ancak, belirlenen risklerle orantılı bir güvenlik düzeyi sağlamak için yasalara uymalı ve uygun organizasyonel ve teknik önlemleri almalısınız.

ICO, işletmelerin şunları yapmasını önerir:

• Potansiyel olayların nerede meydana gelebileceğine dair genel bir fikir edinebilmeniz için tüm yapay zeka sistemlerinin güncel bir envanterini içeren bir güvenlik riski değerlendirmesi gerçekleştirin.
• Bir iç güvenlik denetçisi veya bir dış güvenlik denetçisi tarafından modelinizdeki kusurları belirleme ve ele alma süreci olan model hata ayıklaması gerçekleştirin
• Proaktif bir izleme sistemi uygulayın ve usulsüzlükleri araştırın

7. Yapay Zeka Kararlarına İlişkin İnsan İncelemeleri Anlamlı Olmalıdır

Çıktıların bir insan karar vericiye yardımcı olmak için kullanılıp kullanılmadığı veya yapay zekanın amacına bağlı olarak kararların tamamen özerk olup olmadığı erkenden belirlenmelidir.

ICO, veri konularının verilerini içeren seçimlerin tamamen kendi başlarına mı yoksa yapay zeka yardımıyla mı yapıldığını bilme hakkına sahip olduğunu vurgular. Yönergeler ayrıca, bir kişiye yardım etmek için kullanıldıklarında anlamlı bir şekilde değerlendirilmeleri gerektiğini önermektedir.

Bu gözden geçirmelerin anlamlı olduğundan emin olmak için gözden geçirenler:

• AI sistem sonuçlarını değerlendirecek ve sorgulayacak kadar yetenekli
• Otomatik bir yargıyı bozabilir
• Girdi verilerine yansıtılmayan ek faktörlerin farkında

Bir kararın yasal veya diğer önemli bir etkisi olduğunda, veri sahipleri GDPR kapsamında karara tabi olmama hakkına sahiptir. Ayrıca kararın gerekçesi hakkında anlamlı bilgi bekleme hakları da vardır.

Sonuç olarak, bir tavsiye olarak belirtilmiş olsa bile, yapay zeka önemli kararlar alırken insan incelemesi yine de gereklidir.

8. Yapay Zeka Kullanımınızın Uygun Olduğundan Emin Olmak İçin Bir Harici Tedarikçiye Danışın

Bir üçüncü taraftan bir AI sistemi satın almanız, sizi veri koruma mevzuatına uyma sorumluluğunuzdan kurtarmaz. Çoğu durumda, AI sisteminin nasıl dağıtılacağına karar veren veri denetleyicisi olacaksınız.