AI memperkasakan jenayah siber ketika penipuan berkembang lebih pantas, murah dan sukar dikesan

Penjenayah siber menggunakan kecerdasan buatan untuk melancarkan skim yang lebih rumit. Mereka menyasarkan segala-galanya daripada simpanan persaraan hingga rahsia korporat dengan kaedah yang semakin sukar dikesan.

Teknologi yang sama yang menyesuaikan iklan kepada pembeli dalam talian kini digunakan oleh pelakon jahat untuk mengumpul butiran peribadi dan melancarkan penipuan tersuai dengan pantas. Sangat pantas.

Syarikat AI utama seperti Anthropic, OpenAI, dan Google melaporkan bahawa penjenayah menggunakan platform mereka untuk mengatur operasi pancingan data yang kompleks, membangunkan perisian berbahaya, dan melaksanakan pelbagai serangan digital. Pakar keselamatan memberi amaran bahawa penjenayah juga menghasilkan klip audio dan video palsu pemimpin syarikat untuk memperdaya pekerja supaya mendedahkan maklumat sensitif.

Perniagaan dan pejabat kerajaan mungkin tidak lama lagi akan berhadapan dengan kumpulan sistem berkuasa AI yang boleh mengesan kelemahan dalam rangkaian komputer dan kemudian merancang serta melaksanakan serangan dengan hampir tiada bantuan manusia.

Teknologi ini mengubah cara penjenayah beroperasi dalam talian. Alice Marwick mengetuai penyelidikan di Data & Society, sebuah organisasi penyelidikan teknologi bebas. Beliau memberitahu Wall Street Journal bahawa perubahan terbesar melibatkan saiz dan jangkauan. "Perubahan sebenar adalah skop dan skala. Penipuan lebih besar, lebih disasarkan, lebih meyakinkan."

Brian Singer adalah pelajar kedoktoran di Universiti Carnegie Mellon. Beliau mengkaji bagaimana model bahasa besar digunakan dalam serangan siber dan pertahanan. Anggarannya? Separuh hingga tiga perempat daripada spam dan mesej pancingan data di seluruh dunia kini datang daripada sistem AI.

Serangan itu sendiri telah menjadi lebih boleh dipercayai. Sistem AI yang dilatih mengenai komunikasi syarikat boleh menghasilkan beribu-ribu mesej yang kedengaran semula jadi dan sepadan dengan gaya syarikat. Mereka meniru cara eksekutif menulis. Mereka menyebut berita terkini yang terdapat dalam rekod awam.

Teknologi ini juga membantu penipu luar negara menyembunyikan kesilapan bahasa yang dahulunya mendedahkan percubaan mereka. Penjenayah boleh menyamar sebagai mangsa melalui video palsu dan suara yang disalin. Mereka menggunakan identiti palsu yang sama untuk menyasarkan beberapa orang sekaligus.

John Hultquist adalah ketua penganalisis di Kumpulan Perisikan Ancaman Google. Beliau menggambarkan peralihan utama sebagai "kredibiliti pada skala."

Pelakon jahat juga semakin mahir memilih sasaran. Mereka menggunakan AI untuk menyemak media sosial dan mencari orang yang menghadapi kesukaran hidup yang besar. Perceraian, kematian ahli keluarga, kehilangan pekerjaan, dan situasi yang mungkin menjadikan seseorang lebih terdedah kepada tipu daya percintaan, penipuan pelaburan, atau tawaran pekerjaan palsu.

Pasaran web gelap menurunkan halangan masuk

Halangan untuk masuk ke dalam jenayah siber telah menurun. Pasaran bawah tanah kini menjual atau menyewa alat AI untuk kerja jenayah serendah $90 setiap bulan. Nicolas Christin mengetuai jabatan perisian dan sistem kemasyarakatan Carnegie Mellon.

Beliau berkata bahawa platform ini datang dengan tahap harga yang berbeza dan bantuan pelanggan. "Pembangun menjual langganan kepada platform serangan dengan harga berperingkat dan sokongan pelanggan."

Perkhidmatan ini mempunyai nama seperti WormGPT, FraudGPT, dan DarkGPT. Mereka boleh mencipta perisian berbahaya dan kempen pancingan data. Sesetengahnya malah termasuk bahan pengajaran mengenai teknik penggodaman.

Margaret Cunningham adalah naib presiden keselamatan dan strategi AI di Darktrace, sebuah syarikat keselamatan. Beliau berkata ia mudah. "Anda tidak perlu tahu cara membuat kod, cuma di mana untuk mencari alat itu."

Terdapat perkembangan terkini yang dipanggil vibe-coding atau vibe-hacking. Ia boleh membenarkan bakal penjenayah menggunakan AI untuk membuat program berbahaya mereka sendiri dan bukannya membelinya daripada sumber bawah tanah. Anthropic mendedahkan awal tahun ini bahawa ia telah menghentikan beberapa percubaan untuk menggunakan Claude AI mereka untuk mencipta perisian tebusan oleh "penjenayah dengan kemahiran teknikal yang sedikit."

Operasi jenayah itu sendiri sedang berubah. Jenayah siber telah berfungsi seperti pasaran perniagaan selama bertahun-tahun sekarang, menurut pakar. Operasi perisian tebusan biasa melibatkan kumpulan yang berbeza. Broker akses yang memecah masuk ke rangkaian syarikat dan menjual kemasukan. Pasukan pencerobohan yang bergerak melalui sistem mencuri data. Dan pembekal perisian tebusan sebagai perkhidmatan yang mengeluarkan perisian hasad, mengendalikan rundingan, dan membahagikan wang.

Kelajuan dan automasi membentuk semula rangkaian jenayah

AI telah meningkatkan kelajuan, saiz, dan ketersediaan sistem ini. Kerja yang sebelumnya dilakukan oleh orang yang mempunyai pengetahuan teknikal kini boleh berjalan secara automatik. Ini membolehkan kumpulan ini beroperasi dengan lebih sedikit orang, risiko yang lebih rendah, dan keuntungan yang lebih tinggi. "Fikirkan ia sebagai lapisan perindustrian seterusnya. AI meningkatkan daya pengeluaran tanpa memerlukan lebih banyak tenaga mahir," jelas Christin.

Bolehkah AI melancarkan serangan sepenuhnya sendiri? Belum lagi. Pakar membandingkan situasi ini dengan dorongan untuk kenderaan pandu sendiri sepenuhnya. 95% pertama telah dicapai. Tetapi bahagian akhir yang akan membenarkan kereta memandu ke mana-mana sahaja, pada bila-bila masa sendiri masih tidak dapat dicapai.

Penyelidik sedang menguji keupayaan penggodaman AI dalam persekitaran makmal. Satu pasukan di Carnegie Mellon, disokong oleh Anthropic, mencipta semula pencerobohan data Equifax yang terkenal menggunakan AI awal tahun ini. Singer mengetuai kerja di Institut Keselamatan dan Privasi CyLab Carnegie Mellon. Beliau memanggilnya "satu lompatan besar."

Penjenayah mengeksploitasi AI untuk tujuan berbahaya. Tetapi syarikat AI mengatakan alat yang sama boleh membantu organisasi mengukuhkan pertahanan digital mereka.

Anthropic dan OpenAI sedang membina sistem AI yang boleh terus memeriksa kod perisian untuk mencari kelemahan yang mungkin dieksploitasi oleh penjenayah. Orang masih mesti meluluskan sebarang pembetulan. Program AI terkini yang dibangunkan oleh penyelidik Stanford berprestasi lebih baik daripada beberapa penguji manusia semasa mencari masalah keselamatan dalam rangkaian.

Walaupun AI tidak akan menghentikan semua pencerobohan. Itulah sebabnya organisasi mesti memberi tumpuan kepada mencipta rangkaian yang tangguh yang terus berfungsi semasa serangan, kata Hultquist.

Jika anda membaca ini, anda sudah mendahului. Kekal di sana dengan surat berita kami.