Son birkaç sene içerisinde yapay zekanın hayatımıza ilgi çekici ve hızlı bir şekilde girişi, yalnız günlük hayatta değil iş hayatında da önemli bir rol oynamaya başladı.
Sanayi şirketleri özelinde değerlendirecek olduğumuzda; üretim süreci optimizasyonu, robotik otomasyon, talep tahmini, otonom taşımacılık, lojistik süreçlerinin yönetimi, tedarik zinciri süreçlerinin optimizasyonu, iş güvenliğinin sağlanması, risk analizleri, insan kaynakları – muhasebe / finans ya da raporlama gibi süreçlerin hızlandırılması, enerji yönetimi, dijital ikizler (Digital Twin) gibi alanlarda yapay zeka sistemlerinin ya da yapay zeka destekli sistemlerin kullanıldığını görmekteyiz. Bu sistemler, bütünleştirilmiş bir yazılım olabileceği gibi bağımsız bir uygulama olarak da kullanılabilmektedir. Bu uygulamalar kullanılırken maliyeti, hızı ve verimliliği öncelikli olarak değerlendirilmekte, ancak sistemi beslemesi gerekli bilgilerin doğruluğu, yapay zekanın şeffaflığı, güvenilirliği, kontrole tabi olup olmadığı ya da hangi güvenlik koşullarının sağlandığına ilişkin hususlar ve hatta çevresel etkileri de öncelik kapsamına alınmamaktadır.
Bu kapsamda belirtmek gerekir ki, yapay zeka sistemlerinin kullanımı sırasında ortaya çıkacak bazı sonuçlar, bu süreç içerisinde ciddi risklerin de doğabileceğini bizlere göstermektedir.
"DENETLENEBİLİRLİĞİN SAĞLANMASINA ÖNEMLİ BİR KATKI SAĞLAYACAK"
Aryan Legal Hukuk Bürosu Avukatı Çağla Ünar, Avrupa Yapay Zeka Yasası'na ilişkin merak edilenleri haberimizde anlattı. Özellikle temel hak ve özgürlükler noktasında ayrımcılığa neden olma riski, şeffaflık – doğruluk eksenindeki soru işaretleri, çözümlenmeyi bekleyen etik sorunlar, yapay zeka sistemi nedeniyle ortaya çıkabilecek hukuka aykırılıklar ve doğabilecek sorumluluk ve zararın tazmini gibi çözüm bekleyen hususların, hızla öğrenen ve gelişen yapay zekaya yönelik doğru tanımlamaların ve kuralların belirlenmesi noktasında ihtiyacın aciliyetini ortaya çıkardığını söyleyen Ünar, "Tüm bu riskler ve ihtiyaçlar doğrultusunda Avrupa Birliği tarafından “AI Act” olarak adlandırılan Yapay Zeka Yasası, 01 Ağustos 2024 tarihinde yürürlüğe girdi." dedi.
AI Act'in, genel anlamda yapay zeka sistemlerini risk seviyelerine göre kategorilere ayırdığını ve bu riskler karşısında bir yapay zeka sisteminin hangi kurallara tabi olması gerektiğini belirlediğini söyleyen Ünar, konuşmasını şöyle sürdürdü:
"Buna göre,
- Kullanımı yasaklanan yapay zeka sistemleri,
- Yüksek riskli yapay zeka sistemleri,
- Genel kullanım amaçlı yapay zeka sistemlerinin,
risk seviyelerine göre, uyulması gereken kuralları tanımlanarak aşamalı olarak belirlenen tarihlerde yürürlüğe girmesi öngörülmüştür. Dolayısıyla önümüzdeki dönemde AI Act ile karşımıza çıkacak ilk sonuçlardan biri, Avrupa Birliği ülkelerinden birinde ürün haline getirilmiş ve piyasaya sunulmuş bir yapay zeka uygulamasının ya da sisteminin; risk seviyesinin belirlenmesi, gerekli kontrollerin sağlanması, uygunluk denetimlerinin yapılması ve kalite standartlarına uygun olması noktasında kendini gösterecektir (Bazı yapay zeka sistemleri yönünden CE belgesi alınması zorunluluğu da getirilmiştir). Bu düzenleme sayesinde, AI Act tarafından belirlenen koşulları sağlayan yapay zeka sistemlerinin kullanılmasında, güvenilirliğin, şeffaflığın, doğruluğun, insan kontrolünün ve denetlenebilirliğin sağlanmasına önemli bir katkı sağlayacaktır."
Yapay zekanın kullanımının yaygınlaşmasının, aynı zamanda iş süreçlerinin hızlanması anlamına geldiğini de söyleyen Ünar, sözlerini şöyle sürdürdü: "Yapay zeka tabanlı sistemlerin kullanımı, bugün için her ne kadar ihtiyari nitelik taşıyor ise de, ilerleyen dönemlerde bir ihtiyaç haline geleceği açık. Bu ise istihdamda insan kaynağının nitelik itibariyle dönüşmesine, hatta yeni uzmanlıkların ortaya çıkmasına neden olacak. Sanayi şirketlerinin, orta ve uzun vadeli istihdam süreçlerinde bu hususu dikkate almaları büyük önem taşıyor.
Yapay zekanın kullanılmasında bir diğer önemli husus kişisel verilerin korunması ve siber güvenlik noktalarında kendisini göstermektedir. AI Act ile bu hususlar da düzenleme altına alınmıştır. Dolayısıyla yapay zeka sistemlerinin kullanılması halinde, şirketlerin mutlaka kişisel verilerin korunması ve gerekli siber güvenlik önlemlerinin alınmasını sağlaması gerekecek.
AI Act ile düzenleme alanı bulan bir diğer husus ise yapay zeka okur yazarlığı, yani eğitim. Yapay zeka kullanımında, kullanıcıların bilinçli olması, uygulamaları amacına uygun ve doğru bir şekilde kullanması, ayrıca her zaman sistemin insan kontrolünde olması, kullanımdan doğacak risklerin asgari düzeye indirilmesine olanak tanıyacak."
SANAYİ ŞİRKETLERİ NELER YAPMALI?
Konuşmasına oldukça önemli bir soruya cevaben devam eden Ünar, Türk sanayi şirketlerinin bu yasa gereği nasıl hareket etmeleri gerektiğine dair şunları söyledi: "Öncelikle yapay zeka sistemleri yönünden ihtiyaçlarını doğru belirlemelidir. Kullanılacak yapay zeka uygulamasında veri öğreniminin nasıl yapıldığı, kalite standartlarına ne ölçüde dikkat edildiği, yapay zeka sisteminin şeffaflığı, doğruluğu, denetimi gibi hususlarda gerekli çalışmaların yapılıp yapılmadığı, veri güvenliğine ilişkin hangi önlemlerin alındığı gibi hususları mutlaka değerlendirmeli ve yatırımlarını bu ilkeleri gözeterek gerçekleştirmelidir. Bunun en temel nedenlerinden biri, üretimin artırılması ya da iş süreçlerinin hızlanması amacıyla kullanılacak bir yapay zeka uygulamasının, farklı ekipman ve yatırımlar gerektirmesi halinde, yatırımdan sonraki, örneğin 5 yıl içerisinde, bu sistemin kullanılmaz ya da güvenilmez hale gelmesi, dolayısıyla bu yatırımdan dolayı şirketin büyük bir zarara uğraması ve bu zararı karşılayacak bir muhatap bulmakta zorluk yaşaması riskidir.
Yapay zekanın hızlı gelişimi ve regülasyonlar, yeni iş kolları doğmasına neden olacaktır. Dolayısıyla, yapay zeka sistemlerinden faydalanmak isteyen sanayi sektörü kuruluşları, istihdam süreçlerini bu sistemleri göz önünde bulundurarak planlamalıdır.
Yapay zeka sistemleri, “öğrenme” temelinde hareket eder. Dolayısıyla öncelikle ele alınması gerekli konulardan bir tanesi “veri güvenliği” olmalıdır. Şirkete özel verilerin (ticari veriler, patent verileri, müşteri veya ürüne özel veriler v.b.) korunabilmesi, güvenliğinin ve gizliliğinin sağlanması önemlidir. Özellikle kişisel verilerin korunması yönünden de mutlaka 6698 Sayılı Kişisel Verilerin Korunması Kanunu ve ikincil mevzuatlar ile belirlenen yükümlülüklerin yerine getirilmiş olması gerekmektedir.
Sanayi sektörü kuruluşları, kullandıkları yapay zeka sistemlerinin, işlemekte oldukları verilerin güvenliğini sağlamalı, yeterli siber güvenlik önlemlerini aldığından emin olmalıdır.
Sanayi sektörü kuruluşları çalışanlarına veri gizliliği – güvenliği ve yapay zeka uygulamaları farkındalığı ile ilgili mutlaka eğitim vermeli, bu hususla ilgili çalışanları yönlendirici ve eğitici şirket politikaları oluşturmalıdır."
Ünar, son olarak konuşmasını şu sözlerle bitirdi: Son olarak belirtmek gerekir ki, teknolojinin bu hızlı gelişimi ve yapay zeka sistemlerinin kullanımının artması sayesinde, sanayi sektörü kuruluşları, ciddi maliyet avantajları yakalayıp, yüksek oranda verimlilik artışı sağlayabilecek. Tüm olumlu etkilerin devamlılığının sağlanabilmesi adına, bilinçli bir yol haritası ile ilerlenerek regülasyon ve uyum süreçlerinin doğru yönetilmesi gerekiyor."