Yapay zeka ajanları önümüzdeki aylarda bilgisayar ekranlarını izleyip toplantı ve görüşmelerden sürekli bağlam çıkarabileceğini söyledi. Teknoloji günlük işleri kolaylaştırırken, kullanıcıların kişisel verileri ve dijital güvenliği açısından yeni bir risk alanı yaratıyor.
HABER MERKEZİ- OpenAI CEO’su Sam Altman, yapay zekanın bilgisayarları yalnızca yanıt veren bir araç olarak değil, kullanıcı adına işlem yapan bir yardımcı olarak kullanacağı dönemin hızla yaklaştığını söyledi.
Altman, katıldığı bir konferansta yaptığı konuşmada, önümüzdeki altı ay içinde ChatGPT’nin sonraki nesillerinden birinin kullanıcının ekranını izleyebileceğini, toplantıları ve görüşmeleri kaydedebileceğini ve kişinin yaşamına ilişkin çok geniş bir bağlam oluşturabileceğini belirtti.
Altman’ın sözleri, henüz tüm bu özelliklerin kullanıma açıldığı anlamına gelmiyor.
Ancak OpenAI’nin geliştirdiği teknoloji, bunun teknik olarak hangi noktaya geldiğini gösteriyor. Şirket 2025’te tanıttığı Computer-Using Agent (CUA) ile yapay zekanın ekran görüntülerini okuyup fare ve klavyeyi kullanarak bilgisayarda insan gibi işlem yapmasını mümkün hale getirdi. Sistem internet sitelerinde gezinebiliyor, formları doldurabiliyor, düğmelere tıklayabiliyor ve bir görevi birkaç aşamada tamamlayabiliyor.
MİSYONU DEĞİŞTİ: SİZİ YÖNETECEK VE YÖNLENDİRECEK
Geleneksel sohbet botlarında kullanıcı soruyu yazıyor, sistem de bir yanıt üretiyor. Ama bu rutin ilişkide “küçük” bir yer değişikliği yaşanacak: Kullanıcı bir hedef belirliyor, ajan bilgisayarın ekranını okuyarak gerekli adımları kendisi gerçekleştiriyor. Ancak verdiği bilgilerin kesinliği şüpheli olan bir sistem sizin için “doğru” işi ne ölçüde yerine getirebilir?
OpenAI de bu teknolojinin henüz hatasız olmadığını kabul ediyor. Şirketin kendi testlerinde bilgisayar üzerinde gerçekleştirilen karmaşık görevlerde başarı oranı hala insan performansının gerisinde. Bu nedenle özellikle yanlış tıklama, yanlış e-posta gönderme, yanlış satın alma ya da önemli bir dosyanın silinmesi gibi sonuçlara karşı insan denetiminin gerekli olduğu belirtiliyor.
BİR SEN DAHA VAR SENDEN İÇERİ
Ekranını gören bir yapay zeka yalnızca kullanıcının açtığı belgeyi değil, ekranda açık kalan e-posta, banka hesabı, sağlık bilgileri, özel mesajlar, fotoğraflar, iş belgeleri veya şifrelerin bulunduğu sayfaları da görüyor.
Dahası, ekranı belli aralıklarla gören bir sistem sadece bunlarla da yetinmeyebilir: kişinin kimlerle görüştüğü, hangi siteleri kullandığı, hangi işlerle uğraştığı, çalışma saatleri, alışveriş alışkanlıkları ve günlük rutinleri hepsi bu yeni misyonun takip alanlarına girecek.
HEM ZEKİ HEM APTAL: KANDIRILMAYA MÜSAİT
Risk yalnızca şirketin veya kullanıcının veri politikasıyla sınırlı değil. Yapay zeka ajanlarının internette karşılaştığı içerikler de onları yanıltabilir.
Bir web sayfasına yerleştirilen kötü niyetli talimat, insan tarafından görülmeyen ancak yapay zeka tarafından okunan bir komut haline gelebilir. Buna “prompt injection” deniyor. Böyle bir saldırıda sistem, kullanıcının verdiği asıl görevi bırakıp saldırganın yönlendirmesine göre hareket etmeye çalışabilir.
OpenAI, bilgisayar kullanan ajanlarının bu tür saldırıları tanıyıp engellemesi için ek güvenlik katmanları geliştirdiğini açıklıyor. Ancak şirketin kendi güvenlik belgelerinde de bilgisayar kullanan modellerin hatalar yapabileceği ve insan gözetiminin hâlâ gerekli olduğu belirtiliyor.
×YİNE DE YAPILABİLECEK BİR ŞEYLER VARDIR
ChatGPT bu durumda kendisinin yaratacağı sorunları önlemenin yollarını da gösteriyor:
- Ekran erişimini gereksiz yere açmayın. Bir uygulamanın ekranınızı sürekli izlemesini gerektiren bir özellik kullanmıyorsanız bu izni vermeyin.
- Mikrofon ve kamera izinlerini kontrol edin. Toplantı veya görüşme özelliği kullanıldıktan sonra bu izinlerin açık kalıp kalmadığını denetleyin.
- Banka, e-posta ve şifre yöneticisini yapay zeka ajanına açık bırakmayın. Özellikle finansal işlemler ve hesap güvenliği gerektiren işlemlerde insan denetimi kritik.
- Şifreleri ekranda göstermeyin. Bir yapay zeka ajanı ekran görüntüsü alabiliyorsa, şifrelerin bulunduğu sayfaları açık bırakmamak en güvenli yaklaşım.
- Uygulama izinlerini düzenli olarak temizleyin. Kullanmadığınız entegrasyonları, bağlı uygulamaları ve hesap erişimlerini kaldırın.
- Otomatik satın alma ve gönderme yetkisi vermeyin. E-posta gönderme, para transferi, alışveriş veya dosya silme gibi geri dönüşü zor işlemlerde son onay kullanıcıda kalmalı.
- İş ve özel hayatı mümkün olduğunca ayırın. Yapay zeka ajanının eriştiği bilgisayarda hem kişisel hem de işle ilgili hassas belgelerin bulunması veri sızıntısının etkisini büyütebilir.
- Çalışanlar için ayrı kurallar belirleyin. Şirket bilgisayarlarında yapay zeka ajanlarının müşteri bilgileri, çalışan dosyaları veya ticari sırlarla etkileşimine ilişkin açık politikalar oluşturulmalı.
- Veri saklama ayarlarını inceleyin. Kullanılan yapay zeka hizmetinin ekran görüntülerini, konuşmaları ve tarama geçmişini ne kadar süreyle tuttuğu ve bunların model geliştirmede kullanılıp kullanılmadığı kontrol edilmeli.
