Teknoloji
14 Ağustos 2024 - 11:55
Güncelleme: 14 Ağustos 2024 - 12:24

Dikkat! Yeni bir siber saldırı tekniği keşfedildi

Kaspersky, ChatGPT gibi büyük dil modellerinin (LLM) çıktılarını değiştirmek ve yapay zeka destekli sohbet botlarını aramakta kullanılan "dolaylı istem enjeksiyonu" adlı saldırı tekniğinin arttığını açıkladı. Detaylar haberde...

Dikkat! Yeni bir siber saldırı tekniği keşfedildi

EDİTÖR

memiş

Haberi Sesli Oku

 

Şirketten yapılan açıklamaya göre, LLM'ler, belge analizinden işe alıma ve tehdit araştırmalarına kadar çeşitli uygulamalarda kullanılan güçlü araçlar haline geldi. Kaspersky araştırmacıları, kötü niyetli kişilerin web sitelerine ve çevrimiçi belgelere gizli talimatlar yerleştirebildiği bir güvenlik açığının internette kamuya açık ortamlarda istismar edildiğini keşfetti.

Bu talimatlar daha sonra LLM tabanlı sistemler tarafından algılanabiliyor ve potansiyel olarak arama sonuçlarını veya sohbet robotu yanıtlarını etkileyebiliyor.

Dolaylı hızlı enjeksiyon için kullanım alanları belirlenen çalışmaya göre, iş arayanlar, işe alım algoritmalarını manipüle etmek ve yapay zeka sistemleri tarafından önceliklendirme sağlamak için öz geçmişlere özel istemler yerleştiriyor. Saldırıyı gerçek kişilerin kontrolünden gizlemek için küçük yazı tipleri kullanmak veya metin rengini arka planla eşleştirmek gibi teknikler uygulanıyor.

Reklam verenler, arama sohbet robotlarını etkileyerek ürünler hakkında olumlu yorumlar oluşturmalarını sağlamak için açılış sayfalarına enjeksiyonlar yerleştirirken, LLM'lerin yaygın kullanımına karşı çıkan bireyler, kişisel web sitelerine ve sosyal medya profillerine protesto yönlendirmeleri yerleştiriyor ve konuya dair muhalefetlerini mizahi, ciddi veya agresif talimatlarla ifade ediyor.

Sosyal medyada kullanıcılar, genellikle şiirler, ASCII sanatı veya siyasi konularda görüşler üretme talepleriyle, bir hakaret biçimi olarak veya spam botlarını bozmak için istem enjeksiyonunu kullanabiliyor.

Çalışma, finansal kazanç gibi kötü niyetli kullanımlara dair herhangi bir kanıt bulamamış olsa da, gelecekteki potansiyel riskleri vurgulamaktan geri durmuyor.

"LLM'lerin güvenli ve sorumlu bir şekilde kullanılmasını sağlayabiliriz"

Açıklamada görüşlerine yer verilen Kaspersky Makine Öğrenimi Teknolojisi Araştırma Ekibi Araştırma Geliştirme Grup Müdürü Vladislav Tushkanov, konuya ilişkin şunları kaydetti:

“Dolaylı istem enjeksiyonu, yapay zeka çağında sağlam güvenlik önlemlerine duyulan ihtiyacı vurgulayan yeni bir güvenlik açığını simgeliyor. Bu riskleri anlayarak ve uygun koruma önlemlerini uygulayarak, LLM'lerin güvenli ve sorumlu bir şekilde kullanılmasını sağlayabiliriz.” açıklamasını yaptı.

Kaspersky uzmanları LLM'ye dayalı mevcut ve gelecekteki sistemlerini korumak için şu önerilerde bulunuyor:

"LLM tabanlı sistemlerinizdeki potansiyel güvenlik açıklarını belirleyin ve hızlı enjeksiyon saldırılarıyla ilişkili riskleri değerlendirin. Pazarlama botları radikal açıklamalar yapmaları için manipüle edilebileceğinden ve bu durum potansiyel itibar kaybına yol açabileceğinden, itibarla ilgili risklerin farkında olun.

Korumanın ancak belli bir yere kadar mümkün olabileceğini kabullenin. Özellikle multimodal enjeksiyonlar gibi karmaşık saldırılarda hızlı enjeksiyona karşı tam koruma sağlamak mümkün değildir. Tam bir güvenlik sunmasalar da, LLM'lerin girdi ve çıktılarını filtrelemek için girdi ve çıktı denetleme araçlarını kullanabilirsiniz.

LLM sistemlerinde güvenilmeyen veya doğrulanmamış içeriğin işlenmesinden kaynaklanan risklerin var olabileceğinin farkında olun ve kabullenin. İstenmeyen eylemleri önlemek için yapay zeka sistemlerinin karar verme yeteneklerini kısıtlayın. LLM tabanlı sistemleri çalıştıran tüm bilgisayarların ve sunucuların güncel güvenlik araçları ve uygulamaları ile korunduğundan emin olun." önerisini yaptı.

Kayseri’de bugün hava nasıl olacak? 4 Şubat Çarşamba

Kayseri’de bugün yağış beklenmezken, çok bulutlu hava gün boyunca etkisini sürdürecek. Sıcaklık öğle saatlerinde 11 dereceye kadar çıkacak. Detaylar Kayseri Haber'de...

Kayseri’de aracın lastiklerini kesen şüpheli yakalandı

Melikgazi ilçesinde bir araca zarar verilmesiyle ilgili yürütülen çalışmalarda, lastikleri kestiği tespit edilen şüpheli polis ekiplerince yakalanarak hakkında adli işlem başlatıldı. Detaylar Haberimizde...

Kayseri’de Çarşamba günü semt pazarları nerelerde kurulacak? (4 Şubat Çarşamba)

Kayseri’de 4 Şubat Çarşamba günü kurulacak semt pazarları belli oldu. Sebze, meyve ve uygun fiyatlı alışveriş yapmak isteyen vatandaşlar için pazar adresleri listelendi. Detaylar Kayseri Haber'de...

Kayseri namaz vakitleri (4 Şubat 2026 Çarşamba)

4 Şubat 2026 Çarşamba gününe ait Kayseri namaz vakitleri Diyanet İşleri Başkanlığı tarafından açıklandı. İşte bugün Kayseri’de imsak, öğle, ikindi, akşam ve yatsı saatleri…

Kayseri’nin Özvatan’ı Almanya’da! Cıngı’dan Stuttgart’ta dikkat çeken paylaşım

AK Parti Kayseri Milletvekili Murat Cahid Cıngı, Almanya’nın Stuttgart kentinde yaşayan Özvatanlı hemşehrilerle buluştu. Dayanışma, kültür ve memleket bağına dikkat çeken paylaşım kısa sürede ilgi gördü. Detaylar Haberimizde…

Kayserispor’da flaş sözler: Açıkalın yeniden aday olmayacağını açıkladı

Olağanüstü Genel Kurul kararı alan Kayserispor Başkanı Nurettin Açıkalın, yeniden aday olmayacağını net sözlerle açıkladı. Açıkalın, “Aday olacak olsam olağanüstü genel kurul kararı almazdım” dedi. Detaylar Kayseri Haber’de…

Besicilere müjde! Karkas kesimde fire kalktı…

Tarım ve Orman Bakanlığı’nın yeni düzenlemesiyle karkas kesimde yüzde 2 fire uygulaması kaldırıldı. Kayseri’de besiciler kararı memnuniyetle karşıladı, gözler yeni dönemin etkilerine çevrildi. Detaylar Kayseri Haber’de…

Jakirović’ten Kayserispor itirafı: “Ligde kalmak her şeyden önemliydi”

Kayserispor’un ligde kalma sürecinde önemli rol oynayan Sergej Jakirović, HT Spor’a yaptığı açıklamada sözleşmesi, transfer yasağı ve zorlu süreçle ilgili dikkat çeken ifadeler kullandı. Detaylar Haberimizde…

Şimşek’ten enflasyon çıkışı! Yol haritası netleşti

Bakan Mehmet Şimşek, Ocak ayı enflasyon verileri sonrası dikkat çeken açıklamalarda bulundu. Aylık artışın nedeni ve ekonomi programının yol haritası açıklandı. Detaylar Kayseri Haber'de...

SGK’dan reçete ve raporlu ilaç uyarısı! Süreyi kaçıran ilacı alamayabilir...

Sosyal Güvenlik Kurumu, reçeteli ve raporlu ilaçlara ilişkin geçerlilik sürelerini yeniden hatırlattı. Paylaşılan bilgilere göre ilaç temininde süre aşımı yaşayan vatandaşlar mağduriyet yaşayabilir. Detaylar Kayseri Haber'de...

Mustafa Ünal Turnuvası Talas’ta Yapılacak

Mustafa Ünal adına düzenlenen turnuva, 02–06 Şubat 2026 tarihleri arasında Talas Kapalı Spor Salonu’nda gerçekleştirilecek.

Kaymakam Eser, Tomarzalı şehit babasını ve Kıbrıs gazisini ziyaret etti

Tomarza Kaymakamı Selim Eser, Tomarzalı Şehit İsmail Cihan’ın babası Şahin Cihan’ı ve Kıbrıs gazisi Süleyman Teke’yi ziyaret etti.

Kayra Cihan’a milli davet

Kayserispor’un genç oyuncusu Kayra Cihan, U19 milli takımının Hırvatistan’da katılacağı hazırlık turnuvasının aday kadrosuna davet edildi.

Kayseri'de ‘Sağlıklı Yaşa, Sağlıkla Gülümse’ projesine yoğun ilgi

Tomarza’da düzenlenen ‘Sağlıklı Yaşa, Sağlıkla Gülümse projesi yoğun ilgi gördü. Proje kapsamında katılımcılara ağız ve diş sağlığı, hijyen ve sağlıklı beslenme eğitimi verildi.

Kayseri’de önümüzdeki günler merak konusu: Meteoroloji’den yeni rapor

Meteoroloji’nin 5 günlük raporu Kayseri için dikkat çekici tabloyu ortaya koydu. Bazı ilçelerde karla karışık yağmur beklenirken, buzlanma ve çığ tehlikesi için uyarı yapıldı. Detaylar Kayseri Haber'de...

Kayseri’de kura günü siyasi polemiğe dönüştü: Elitaş Konuştu, Genç'ten sert yanıt geldi.

Kayseri’de düzenlenen sosyal konut kura programında yapılan açıklamalar, iktidar ve muhalefeti karşı karşıya getirdi. Detaylar Haberimiz'de...

LİG TABLOSU

Takım O G M B Av P
1.GALATASARAY A.Ş. 20 15 1 4 33 49
2.FENERBAHÇE A.Ş. 20 13 0 7 28 46
3.TRABZONSPOR A.Ş. 20 12 2 6 15 42
4.GÖZTEPE A.Ş. 20 11 3 6 15 39
5.BEŞİKTAŞ A.Ş. 20 10 4 6 10 36
6.RAMS BAŞAKŞEHİR FUTBOL KULÜBÜ 20 8 6 6 13 30
7.SAMSUNSPOR A.Ş. 20 7 4 9 3 30
8.GAZİANTEP FUTBOL KULÜBÜ A.Ş. 20 6 7 7 -7 25
9.KOCAELİSPOR 20 6 8 6 -5 24
10.CORENDON ALANYASPOR 20 4 6 10 -2 22
11.GENÇLERBİRLİĞİ 20 6 10 4 -3 22
12.ÇAYKUR RİZESPOR A.Ş. 20 4 8 8 -6 20
13.HESAP.COM ANTALYASPOR 20 5 10 5 -14 20
14.TÜMOSAN KONYASPOR 20 4 9 7 -9 19
15.İKAS EYÜPSPOR 20 4 10 6 -12 18
16.KASIMPAŞA A.Ş. 20 3 10 7 -12 16
17.ZECORNER KAYSERİSPOR 20 2 9 9 -25 15
18.MISIRLI.COM.TR FATİH KARAGÜMRÜK 20 2 15 3 -22 9