Yapay Zeka: Yapay Zeka ile "Vibe Kodlama" – BT güvenliği için ciddi bir risk

Gizli bir sığınakta birlikte çalışan casuslar, zayıf güvenlikli hükümet web sitelerini hackleyerek değerli veri hırsızlığı yapıyorlar. Casusluk uzmanları yasa dışı yollarla değerli bilgilere erişim sağlıyor, model yayınlandı, , mülkiyet yayınlandı, , 58817852.jpg, casuslar, gizli, saklanma yeri, saklanma yeri, veri, hırsızlık, bilgisayar korsanlığı, hükümet, web siteleri, güvenlik, casusluk, uzmanlar, teknoloji, erişim, bilgi, yasa dışı, bilgisayar korsanı, internet, bilgisayar, virüs, saldırı, siber, ağ, web, yazılım, parola, çevrimiçi, suç, gizlilik, kötü amaçlı yazılım, dijital, güvenlik duvarı, siber güvenlik, hack, kimlik avı, kod, adam, suçlu, ikili, monitörler, programcı, yasa dışı, istismar, şifreleme, karanlık ağ, bilgisayar, siber suç, kötü amaçlı, programlama, dolandırıcılık KAYIT TARİHİ BELİRTİLMEDİ data-portal-copyright=

Yapay zeka, herkesi bir uygulama geliştiricisine dönüştürebilir. Bu, sıradan insanların sektöre giriş engellerini azaltır. Ancak, yapay zeka tarafından üretilen yazılımlar bazen tehlikeli güvenlik açıklarına sahip olabilir.

Yapay zeka (YZ), uzun zamandır birçok yazılım geliştiricisinin asistanı haline geldi. Github Copilot gibi YZ programlama araçları, geliştirici bir sonraki satırı düşünemeden saniyeler içinde kod satırları yazıyor, hataları düzeltiyor veya koda eklemeler yapıyor.

İlk birkaç kullanımımda beynimin bir uzantısı gibi hissettim!" diyor Carsten Kisslat. 30 yıldır video oyunları geliştiriyor. Programcı olmadığını, ancak ara sıra Python programlama dilinde daha küçük uygulamalar yazdığını söylüyor. Yapay zeka bu konuda ona yardımcı oluyor.

Kisslat hat einiges Grundwissen im Programmieren, doch inzwischen können auch komplette Laien Software bauen. Sie müssen der KI dafür einfach nur ihre Idee beschreiben. Der Fachbegriff dafür ist „Vibe Coding“.

Ancak yapay zekanın yalnızca yardımcı olmakla kalmayıp aynı zamanda tüm programları yazması, BT güvenlik uzmanlarına göre çeşitli riskler doğuruyor. Hatalı programlar, kullanıcılarının verilerini açığa çıkarabilir ve bu da bilgisayar korsanlarının bu verilere erişmesini özellikle kolaylaştırabilir. Handelsblatt, geliştiriciler, "vibe kodlayıcıları" ve BT güvenlik uzmanlarıyla bu eğilimin fırsatları ve zorlukları hakkında konuştu.

Limango.deBugüne özel: Birkenstock'ta E'e varan indirim*

Yapay zeka kodlayıcılarının yalnızca onda bir zaman ihtiyacı var

"Eskiden programlama yaparken, programı çalıştırabilmek için yedi saat araştırma yapmam gerekirdi," diye hatırlıyor Kisslat. Sıfırdan programlama öğrenmek sıkıcıdır. Kod affetmez: Bir yazım hatası programı durdurabilir, kötü bir yapı programı yavaşlatabilir veya çökmesine neden olabilir.

Yapay zeka asistanı ChatGPT sayesinde Kisslat, artık çok daha üretken olduğunu söylüyor: "Artık eskisinden sadece onda bir süreye ihtiyacım oluyor." Bu sayede ilk video oyunu taslaklarını oluşturup test edebiliyor veya müşterilere konsept olarak sunabiliyor.

Sebastian Deutsch, yazılım girişimi 9elements'in kurucusu. Yapay zekayı olumlu bir kodlama aracı olarak görüyor: "Uzun zamandır genç geliştiricilerimize şunu söylüyorum: Bana sormadan önce lütfen ChatGPT'ye sorun."

Güneş enerjisi sistemi karşılaştırması: Güneş enerjisi depolama maliyeti nedir?

Reklamcılık

Mehr Info

Yapay zeka ile kodlama birçok geliştiricinin ilgisini çekti. Ancak "Vibe Coding" bir adım daha ileri gidiyor. Yapay zeka geliştiricisi OpenAI'nin kurucu ortağı Andrej Kapathy, sosyal medya platformu X'te paylaştığı bir gönderide bu terimi ortaya attı. Bu yeni programlama yöntemiyle, kişi "titreşimlere", yani bir başka deyişle hisse teslim olmalı. Kapathy, yapay zekayla konuşuyor ve "kodun varlığını unutuyor" diye yazıyor. "En popüler yeni programlama dili İngilizce."

Peter Krück ist Vibe-Coder. Eigentlich hat er BWL studiert, nun entwickelt er Apps mit einem KI-Chatbot. Meist nutzt er „Claude“ des KI-Entwicklers Anthropic, beschreibt der KI seine Idee und lässt sich den gesamten Software-Aufbau generieren. Krück hat so schon eine eigene Jobplattform gebaut, eine Webseite für seinen Tischtennisverein und einen Gruppenchat mit integrierten KI-Funktionen.

Bu tür yazılım geliştirmeye "kodsuz" denir. Vibe kodlayıcısı ne geliştirmek istediğini açıklar, gerisini yapay zeka halleder. Çalışan bir uygulama için artık kodu kendiniz yazmanıza gerek yok.

» Ayrıca okuyun: Az bilinen bir girişim, mega platform Github'ı sınırlarına kadar zorluyor

Artık bunun için özel platformlar mevcut. En bilinenleri arasında, metin girişiyle de çalışan Lovable ve Cursor yer alıyor. Lovable, "Fikirden uygulamaya saniyeler içinde" diye reklam veriyor. Kullanıcılar projelerini platformda paylaşıyor: örneğin bir yapay zeka finans takip aracı, çizimlerden mini oyunlar oluşturabilen bir jeneratör veya odak zamanlayıcılı akıllı bir yapılacaklar listesi. 9elements kurucusu Deutsch, "Yapay zeka, programlamayı çok daha erişilebilir hale getirdi" diyor.

Vibe Kodlama, birçok kişi için uzun zamandır bir hobiden çok daha fazlası. Lovable'ın kurucusu Anton Osika'ya göre, yatırımcılar platformu aracılığıyla oluşturulan uygulamalara yatırım yaptıklarını bildiriyor.

Langsam und voller Sicherheitslücken

Ancak kodsuz platform kullanıcıları da sınırlamalarla karşılaşıyor. Örneğin, Peter Krück masa tenisi kulübünün web sitesini Lovable ile oluşturmak istediğinde, "Sonuç gerçekten iyi görünüyor," diyor. Ancak entegre etmek istediği özellik sayısı arttıkça, memnuniyetsizliği de artıyor: "Giriş işlevi ve üye alanı söz konusu olduğunda, nedense henüz çalışmıyor." Kisslat ayrıca, uygulama ne kadar karmaşıksa, yapay zekanın sınırlarına o kadar çabuk ulaştığını söylüyor.

Thomas Jansen, bilgisayar bilimleri alanında doktora derecesine sahip ve 35 yıldır yazılım geliştirme alanında çalışıyor. Şirketi Crissy Field, yazılımları güvenlik açıklarına karşı test ediyor. "Bence bu abartı, yapay zekanın şu anda sunabileceğinden daha fazlasını vaat ediyor," diyor.

Yapay zeka tarafından üretilen kodu analiz etti: "Kod çalışıyor, ancak hiçbir kalite testini geçemiyor." Genellikle yapılandırılmamış ve anlaşılması zor. Bu da performansı etkiliyor: Jansen, kötü yazılmış kodun çökmesine ve sunucuların aşırı yüklenmesine neden olabileceği konusunda uyarıyor.

Daha da kötüsü: Bazı kodsuz projeler, kullanıcı verilerine istemeden erişime olanak tanıyan ciddi güvenlik açıkları içeriyor. Jansen, "İyi kod, fonksiyonları bir araya getirmekten daha fazlasını gerektirir," diyor.

Ein Problem für die Cybersecurity

Koddaki bu tür güvenlik açıkları tehlikeli olabilir. Geliştiriciler ve Vibe kodlayıcılarıyla yapılan sohbetlerde, Leo adlı bir X kullanıcısı örneği sıklıkla dile getirilir. Paylaşımlarına, kodsuz bir platform kullanarak geliştirdiği yeni uygulamasını coşkuyla anlatarak başlar.

Ancak coşkusu hızla söndü. "Millet, bana saldırılıyor," diye yazıyor. "Tuhaf şeyler oluyor: API anahtarlarımın limiti doluyor, insanlar aboneliği atlatıyor ve veritabanında saçmalıklar yaratıyor."

API anahtarı, diğer uygulamalara erişim sağlayan bir program arayüzüdür. Bilgisayar korsanları bu anahtarlara eriştikten sonra, aşırı istek göndererek hizmeti kötüye kullanabilir ve bu da uygulama operatörü için yüksek maliyetler oluşturabilir.

Bereits im Mai 2023 untersuchte Mario Fritz vom CISPA Helmholtz-Zentrum für Informationssicherheit gemeinsam mit Forschern der Universität des Saarlandes mögliche Sicherheitslücken in KI-generiertem Code. Ein zentrales Problem sehen die Autoren in den Codebeispielen, mit denen die KI trainiert wurde. „Die Trainingsdaten für diese Modelle werden in der Regel aus dem Internet gesammelt (...) und enthalten wahrscheinlich Fehler und Sicherheitslücken“, heißt es in der Studie.

Araştırmacılar, çoğu hala çözülememiş tipik güvenlik açıkları buldu. Geliştiriciler, çevrimiçi ortamda tipik yapay zeka kod sorunlarına dikkat çekmeye devam ediyor. Fritz, "Dahası, bir saldırganın kod üretimini manipüle etme yeteneği de olabilir," diye uyarıyor.

Son olarak, yapay zeka kodlama platformlarının saldırgan sağlayıcıları, oluşturulan kodlara kasıtlı olarak güvenlik açıkları ekleyebilir; örneğin, oluşturulan uygulamalar aracılığıyla verilere erişmek veya kötü amaçlı yazılım enjekte etmek için. Vibe kodlayıcıları ve deneyimsiz geliştiriciler bunu tespit etmekte zorluk çekebilir. Geliştirici Sebastian Deutsch, "Siber güvenlik açısından büyük riskler var" diyor.

Sadece sınırlı kullanım içindir

Tüm risklere rağmen, o ve Thomas Jansen, yapay zeka kodlamasını "programlamayı demokratikleştirmek" için bir fırsat olarak görüyor. Ancak, araçları kullanan ve kendi uygulamasını yayınlamak isteyen herkes, yapay zekanın ne ürettiğini dikkatlice incelemelidir. Deutsch, "Yapay zekanın ne yaptığını titizlikle anlamaktan kaçınamazsınız," diye uyarıyor. Yazılı uygulamanın herkese açık olması için, geliştiricilerinin güvenlik standartlarına uyması gerekiyor.

Bunun yasal nedenleri de var: BT hukuk uzmanı David Bomhard, bir uygulamada veri sızıntısı varsa, özellikle uygulamayı geliştiren ve yayınlayan kişinin sorumlu olduğunu açıklıyor. Bu durum Vibe kodlayıcıları için de geçerli. Bomhard, "Yapay zekanın amacı öneri ve ilham vermek, ancak şu anda profesyonel kalite kontrolünün yerini tutmuyor," diyor. Sonuçta, yazılım geliştirme aynı zamanda kodun yasal gereklilikler ve güvenlik standartları açısından kontrol edilmesini de içerir.

Carsten Kisslat ve Peter Krück de dikkatli olmanızı tavsiye ediyor. Vibe Coding yalnızca ilk taslaklar ve özel projeler için uygundur. Bu, yapay zekanın sınırlarını önce test etmenizi sağlar.

Impressum

Dr. Bernhard Farkasch

Rheinstr. 14

66 113 Saarbrücken

Saarland Federal Eyaleti

Almanya Federal Cumhuriyeti

Yeni metin

Yeni metin

dur sakin ol Çizgi