Teknoloji
14 Ağustos 2024 - 11:55
Güncelleme: 14 Ağustos 2024 - 12:24

Dikkat! Yeni bir siber saldırı tekniği keşfedildi

Kaspersky, ChatGPT gibi büyük dil modellerinin (LLM) çıktılarını değiştirmek ve yapay zeka destekli sohbet botlarını aramakta kullanılan "dolaylı istem enjeksiyonu" adlı saldırı tekniğinin arttığını açıkladı. Detaylar haberde...

Dikkat! Yeni bir siber saldırı tekniği keşfedildi

EDİTÖR

memiş

Haberi Sesli Oku

 

Şirketten yapılan açıklamaya göre, LLM'ler, belge analizinden işe alıma ve tehdit araştırmalarına kadar çeşitli uygulamalarda kullanılan güçlü araçlar haline geldi. Kaspersky araştırmacıları, kötü niyetli kişilerin web sitelerine ve çevrimiçi belgelere gizli talimatlar yerleştirebildiği bir güvenlik açığının internette kamuya açık ortamlarda istismar edildiğini keşfetti.

Bu talimatlar daha sonra LLM tabanlı sistemler tarafından algılanabiliyor ve potansiyel olarak arama sonuçlarını veya sohbet robotu yanıtlarını etkileyebiliyor.

Dolaylı hızlı enjeksiyon için kullanım alanları belirlenen çalışmaya göre, iş arayanlar, işe alım algoritmalarını manipüle etmek ve yapay zeka sistemleri tarafından önceliklendirme sağlamak için öz geçmişlere özel istemler yerleştiriyor. Saldırıyı gerçek kişilerin kontrolünden gizlemek için küçük yazı tipleri kullanmak veya metin rengini arka planla eşleştirmek gibi teknikler uygulanıyor.

Reklam verenler, arama sohbet robotlarını etkileyerek ürünler hakkında olumlu yorumlar oluşturmalarını sağlamak için açılış sayfalarına enjeksiyonlar yerleştirirken, LLM'lerin yaygın kullanımına karşı çıkan bireyler, kişisel web sitelerine ve sosyal medya profillerine protesto yönlendirmeleri yerleştiriyor ve konuya dair muhalefetlerini mizahi, ciddi veya agresif talimatlarla ifade ediyor.

Sosyal medyada kullanıcılar, genellikle şiirler, ASCII sanatı veya siyasi konularda görüşler üretme talepleriyle, bir hakaret biçimi olarak veya spam botlarını bozmak için istem enjeksiyonunu kullanabiliyor.

Çalışma, finansal kazanç gibi kötü niyetli kullanımlara dair herhangi bir kanıt bulamamış olsa da, gelecekteki potansiyel riskleri vurgulamaktan geri durmuyor.

"LLM'lerin güvenli ve sorumlu bir şekilde kullanılmasını sağlayabiliriz"

Açıklamada görüşlerine yer verilen Kaspersky Makine Öğrenimi Teknolojisi Araştırma Ekibi Araştırma Geliştirme Grup Müdürü Vladislav Tushkanov, konuya ilişkin şunları kaydetti:

“Dolaylı istem enjeksiyonu, yapay zeka çağında sağlam güvenlik önlemlerine duyulan ihtiyacı vurgulayan yeni bir güvenlik açığını simgeliyor. Bu riskleri anlayarak ve uygun koruma önlemlerini uygulayarak, LLM'lerin güvenli ve sorumlu bir şekilde kullanılmasını sağlayabiliriz.” açıklamasını yaptı.

Kaspersky uzmanları LLM'ye dayalı mevcut ve gelecekteki sistemlerini korumak için şu önerilerde bulunuyor:

"LLM tabanlı sistemlerinizdeki potansiyel güvenlik açıklarını belirleyin ve hızlı enjeksiyon saldırılarıyla ilişkili riskleri değerlendirin. Pazarlama botları radikal açıklamalar yapmaları için manipüle edilebileceğinden ve bu durum potansiyel itibar kaybına yol açabileceğinden, itibarla ilgili risklerin farkında olun.

Korumanın ancak belli bir yere kadar mümkün olabileceğini kabullenin. Özellikle multimodal enjeksiyonlar gibi karmaşık saldırılarda hızlı enjeksiyona karşı tam koruma sağlamak mümkün değildir. Tam bir güvenlik sunmasalar da, LLM'lerin girdi ve çıktılarını filtrelemek için girdi ve çıktı denetleme araçlarını kullanabilirsiniz.

LLM sistemlerinde güvenilmeyen veya doğrulanmamış içeriğin işlenmesinden kaynaklanan risklerin var olabileceğinin farkında olun ve kabullenin. İstenmeyen eylemleri önlemek için yapay zeka sistemlerinin karar verme yeteneklerini kısıtlayın. LLM tabanlı sistemleri çalıştıran tüm bilgisayarların ve sunucuların güncel güvenlik araçları ve uygulamaları ile korunduğundan emin olun." önerisini yaptı.

Kayseri’de 16 ilçeyi kapsayan dev yatırım planı

Kayseri Büyükşehir Belediyesi, 16 ilçeyi kapsayan kırsal yatırımlar için ortak akıl masası kurdu. 2026’yı şekillendirecek planın detayları istişare toplantılarında netleşti. Detaylar Kayseri Haber'de...

Kayseri dev buluşmaya hazırlanıyor! 900 firma aynı çatı altında toplanacak

Kayseri’de tarım, hayvancılık ve gıda sektörünü bir araya getirecek dev organizasyon için geri sayım başladı. 21’inci kez düzenlenecek fuar, binlerce ziyaretçiyi kente çekecek. Detaylar Kayseri Haber'de...

Büyükkılıç: “Kayseri’de musluklardan akan su memba kalitesinde”

Kayseri Büyükşehir Belediye Başkanı Memduh Büyükkılıç, KASKİ laboratuvarlarında 2025 yılında yapılan binlerce analizle içme suyunun anbean kontrol edildiğini belirterek, vatandaşların suyu gönül rahatlığıyla içebileceğini söyledi.

Kayseri’ye dev hastane geliyor! Süreç resmen başladı

İl Sağlık Müdürü Mehmet Erşen, İldem–Gesi bölgesine yapılacak 600 yataklı yeni hastane projesinin onaylandığını ve sürecin resmen başladığını açıkladı. Proje, Kayseri’nin sağlık yükünü önemli ölçüde hafifletecek.

Paris’ten Erciyes’e uzanan tanıtım hamlesi!

Paris’ten gelen gazeteci ve influencerlar Erciyes’te kayak yaptı, Kayseri mutfağını yerinde deneyimledi. Tanıtım hamlesi büyük ilgi gördü. Detaylar Kayseri Haber'de...

Sanayicilerin yüzde 97’si Kayseri OSB hizmetlerinden memnun

Kayseri Organize Sanayi Bölge Müdürlüğü tarafından 2024 yılında uygulamaya başlanan "Sanayici Memnuniyet Anketi" çalışmasının 2025 yılı sonuçları belli oldu. Detaylar Kayseri Haber'de..

KTB Başkanı Bağlamış, KGC’nin 46. kuruluş yılını kutladı

Kayseri Ticaret Borsası (KTB) Başkanı Recep Bağlamış, Kayseri Gazeteciler Cemiyeti’nin (KGC) kuruluşunun 46. yıl dönümü dolayısıyla bir mesaj yayımladı.

Kayseri’de çocuklar için satranç kursu başlıyor

Kayseri’de çocuklar için dikkat çeken bir kurs başlıyor. 7-14 yaş grubuna yönelik satranç eğitiminde tarih, yer ve kontenjan detayları netleşti. Detaylar Haberimizde...

Kayseri’ye bir ERVA Spor Okulu daha

Kayseri’de spor altyapısını güçlendirmeye yönelik çalışmalar hız kesmeden devam ediyor. Bu kapsamda Melikgazi ilçesinde yeni bir ERVA Spor Kulübü daha açılmaya hazırlanıyor. Detaylar Kayseri Haber'de...

TOKİ kuralarının ardından sürpriz açıklama!

Kayseri’de 7 bin 562 kişinin belirlendiği TOKİ kuralarından sonra ilçelerden biri için dikkat çeken bir gelişme yaşandı. Belediye başkanının açıkladığı rakam herkesi şaşırttı. Detaylar Kayseri Haberde...

İslam Memiş’ten kritik uyarı! Altın, dolar ve euroda sert dalga sürecek

Ekonomist İslam Memiş, altın, gümüş ve döviz piyasalarına ilişkin dikkat çeken değerlendirmelerde bulundu. Sert hareketlerin devam edeceğini belirten Memiş, özellikle değerli metallerde yatırımcıları temkinli olmaya çağırdı.

Komşu’ya dev yatırım! Gözler Kayseri’ye çevrildi…

Suudi Arabistan ile imzalanan tarihi enerji anlaşmasında 2 bin megavatlık güneş projesinin bin megavatı Sivas’a kuruluyor. Dev yatırım sonrası gözler şimdi Kayseri’ye benzer bir projenin gelip gelmeyeceğine çevrildi.

Elektrikte tarihi anlaşma! Türkiye en ucuza enerji alacak

Enerji Bakanı Alparslan Bayraktar, Suudi Arabistan ile imzalanan anlaşmayla Türkiye’nin bugüne kadarki en düşük fiyattan elektrik alacağını açıkladı. İlk fazda 2 milyar dolarlık yatırım yapılacak. Detaylar Haberimizde...

MSB acı haberi duyurdu: 1 asker şehit oldu...

Milli Savunma Bakanlığı tarafından yapılan açıklamada rahatsızlanarak hastaneye kaldırılan Bakım Astsubay Kıdemli Başçavuş Talat Okur'un şehit olduğu duyuruldu. Detaylar Kayseri Haber'de...

Resmi Gazete’de yayımlandı: O firma ihalelerden men edildi!

Kayseri İl Milli Eğitim Müdürlüğü’nün talebiyle açılan dava sonuçlandı. İhalelerden men edilen firma hangisi oldu? Detaylar Kayseri Haber’de…

Kayseri’de bugün hava nasıl olacak? 4 Şubat Çarşamba

Kayseri’de bugün yağış beklenmezken, çok bulutlu hava gün boyunca etkisini sürdürecek. Sıcaklık öğle saatlerinde 11 dereceye kadar çıkacak. Detaylar Kayseri Haber'de...

LİG TABLOSU

Takım O G M B Av P
1.GALATASARAY A.Ş. 20 15 1 4 33 49
2.FENERBAHÇE A.Ş. 20 13 0 7 28 46
3.TRABZONSPOR A.Ş. 20 12 2 6 15 42
4.GÖZTEPE A.Ş. 20 11 3 6 15 39
5.BEŞİKTAŞ A.Ş. 20 10 4 6 10 36
6.RAMS BAŞAKŞEHİR FUTBOL KULÜBÜ 20 8 6 6 13 30
7.SAMSUNSPOR A.Ş. 20 7 4 9 3 30
8.GAZİANTEP FUTBOL KULÜBÜ A.Ş. 20 6 7 7 -7 25
9.KOCAELİSPOR 20 6 8 6 -5 24
10.CORENDON ALANYASPOR 20 4 6 10 -2 22
11.GENÇLERBİRLİĞİ 20 6 10 4 -3 22
12.ÇAYKUR RİZESPOR A.Ş. 20 4 8 8 -6 20
13.HESAP.COM ANTALYASPOR 20 5 10 5 -14 20
14.TÜMOSAN KONYASPOR 20 4 9 7 -9 19
15.İKAS EYÜPSPOR 20 4 10 6 -12 18
16.KASIMPAŞA A.Ş. 20 3 10 7 -12 16
17.ZECORNER KAYSERİSPOR 20 2 9 9 -25 15
18.MISIRLI.COM.TR FATİH KARAGÜMRÜK 20 2 15 3 -22 9