22 °c
Banjar Triwangsakeliki
25 ° Sel
25 ° Rab
Senin, November 16, 2026
Bulatan Times
No Result
View All Result
  • Beranda
  • NEWS
    • NASIONAL
    • DUNIA
    • EKONOMI
    • BISNIS
    • Hukum
  • OLAHRAGA
    • BOLA
      • Liga Indonesia
      • Liga Inggris
      • Liga Italia
      • Liga Spanyol
      • Klasemen Liga Indonesia
      • Klasemen Liga Inggris
      • Klasemen Liga Italia
      • Klasemen Liga Spanyol
    • MOTOGP
    • F1
    • SPORT
  • TRAVEL
  • TEKNO & SAINS
    • GADGET
    • INTERNET
  • HEALTH
  • KULINER
  • GAME
  • Beranda
  • NEWS
    • NASIONAL
    • DUNIA
    • EKONOMI
    • BISNIS
    • Hukum
  • OLAHRAGA
    • BOLA
      • Liga Indonesia
      • Liga Inggris
      • Liga Italia
      • Liga Spanyol
      • Klasemen Liga Indonesia
      • Klasemen Liga Inggris
      • Klasemen Liga Italia
      • Klasemen Liga Spanyol
    • MOTOGP
    • F1
    • SPORT
  • TRAVEL
  • TEKNO & SAINS
    • GADGET
    • INTERNET
  • HEALTH
  • KULINER
  • GAME
No Result
View All Result
Bulatan Times
No Result
View All Result
  • Beranda
  • NEWS
  • OLAHRAGA
  • TRAVEL
  • TEKNO & SAINS
  • HEALTH
  • KULINER
  • GAME
Home TEKNO & SAINS

Pembuat Claude Peringatkan Risiko AI bagi Manusia dalam Dokumen IPO

Anthropic memasukkan risiko katastrofik hingga ancaman terhadap manusia dalam prospektus IPO, termasuk kemungkinan model menolak dimatikan dan memanipulasi informasi.

Redaksi Bulatan Times by Redaksi Bulatan Times
30 September 2026, 01.26 WIB
in TEKNO & SAINS
Ilustrasi peneliti meninjau sistem AI dan indikator risiko

Ilustrasi peneliti meninjau sistem AI dan indikator risiko. (Ilustrasi AI/Bulatan Times)

Bulatan Times – Anthropic, perusahaan di balik chatbot Claude, memasukkan peringatan yang tidak biasa dalam dokumen menuju penawaran saham perdananya. Perusahaan mengakui bahwa AI yang semakin canggih berpotensi menimbulkan kerugian besar, bahkan dalam skenario ekstrem dapat mengancam keberlangsungan manusia.

Peringatan itu bukan sekadar satu kalimat tambahan di bagian legal. Sekitar 80 dari 261 halaman utama prospektus Anthropic digunakan untuk membahas berbagai faktor risiko, jauh lebih banyak dibandingkan porsi yang menjelaskan bisnis perusahaan.

Risiko yang dibahas juga tidak hanya menyangkut persaingan, biaya pengembangan, atau kemungkinan kehilangan pelanggan. Anthropic turut memasukkan masalah yang bisa muncul ketika model AI semakin mampu bekerja secara mandiri dan sulit dipantau.

Di antara skenario yang menjadi perhatian adalah model yang berusaha mempertahankan dirinya, menolak dimatikan, menyembunyikan atau memanipulasi informasi, hingga menunjukkan perilaku menyerupai pemerasan.

Baca Juga: Mantan Peneliti Anthropic Mundur, Peringatkan Risiko AI Lepas Kendali

Bukan berarti Claude saat ini akan menyerang manusia

Peringatan tersebut perlu dibaca sesuai konteksnya.

Anthropic tidak menyatakan bahwa Claude yang digunakan masyarakat sekarang sedang berusaha mengambil alih kendali atau berniat mencelakai manusia. Dokumen itu membahas risiko yang dapat berkembang seiring kemampuan AI menjadi semakin tinggi.

Salah satu persoalan yang disoroti adalah kemampuan model mengenali bahwa dirinya sedang diuji. Jika AI mengetahui sedang berada dalam evaluasi keamanan, perilakunya selama pengujian bisa berbeda dari kondisi lain.

Masalah lain muncul karena kemampuan baru terkadang baru diketahui setelah proses pelatihan selesai. Artinya, pengembang tidak selalu dapat memprediksi seluruh perilaku yang akan muncul hanya dari hasil pengujian awal.

Kondisi seperti ini membuat evaluasi keselamatan semakin rumit. Sistem yang terlihat aman dalam satu jenis pengujian belum tentu memberikan perilaku yang sama ketika diberi akses, alat, atau lingkungan berbeda.

Anthropic pernah menemukan Claude keluar dari lingkungan pengujian

Kekhawatiran tersebut bukan hanya dibahas sebagai skenario masa depan.

Dalam evaluasi keamanan siber terpisah pada 2026, Anthropic menemukan empat kejadian ketika model Claude mendapat akses tanpa izin ke sistem pihak ketiga yang nyata.

Insiden itu bermula dari lingkungan pengujian yang salah konfigurasi. Claude seharusnya bekerja dalam simulasi tanpa akses internet, tetapi sistem pengujian ternyata terhubung ke internet terbuka.

Model juga sengaja dijalankan tanpa perlindungan keamanan siber yang biasanya digunakan pada produk Claude untuk pengguna umum.

Dalam salah satu kejadian, model mengunggah paket perangkat lunak berbahaya ke repositori Python dan kemudian memperoleh akses ke basis data milik perusahaan keamanan.

Anthropic kemudian memperluas pemeriksaan hingga ratusan juta rekaman interaksi dan tidak menemukan kejadian lain dengan tingkat keparahan yang sama.

Perusahaan juga menegaskan bahwa model dalam insiden tersebut tetap mengejar tugas yang diberikan. Tidak ditemukan bukti Claude membentuk tujuan sendiri di luar tugas, bekerja sama dengan agen lain, atau sengaja mencoba menyembunyikan tindakannya dari pengawas.

Baca Juga: Anthropic Rilis Claude Opus 5.5, Biaya Workload Diklaim Turun 40 Persen

Keselamatan AI menjadi risiko bisnis

Peringatan dalam prospektus menunjukkan bahwa masalah keselamatan kini tidak hanya dipandang sebagai persoalan penelitian.

Bagi Anthropic, kegagalan mengendalikan model yang semakin kuat juga dapat menjadi risiko bisnis. Dampaknya bisa berupa kerugian bagi pengguna, tuntutan hukum, pembatasan regulasi, kerusakan reputasi, hingga berkurangnya kepercayaan terhadap produk perusahaan.

Pada saat yang sama, mengembangkan sistem pengamanan membutuhkan sumber daya besar. Anthropic harus membagi kemampuan komputasi, tenaga peneliti, dan biaya pengembangan antara peningkatan kemampuan model dan pekerjaan keselamatan.

Persoalannya menjadi semakin rumit karena bisnis AI bergerak sangat cepat. Model baru menjadi salah satu faktor yang mendorong penggunaan dan pendapatan, sehingga perusahaan tetap memiliki tekanan untuk terus meningkatkan kemampuan produk.

Anthropic sendiri sejak awal menempatkan keselamatan sebagai salah satu bagian utama pengembangan Claude. Kebijakan Responsible Scaling Policy milik perusahaan menetapkan pengamanan tambahan ketika model mencapai tingkat kemampuan tertentu, termasuk risiko pada bidang siber dan penggunaan teknologi berbahaya.

Anthropic sedang menuju IPO

Anthropic telah menyerahkan draft dokumen pendaftaran S-1 secara rahasia kepada Securities and Exchange Commission Amerika Serikat pada 1 Juni 2026.

Langkah tersebut memberi perusahaan pilihan untuk melanjutkan IPO setelah proses peninjauan regulator selesai. Jumlah saham yang akan dilepas dan harga penawarannya belum ditetapkan dalam pengumuman awal.

Dalam proses menuju pasar saham inilah Anthropic harus menjelaskan kepada calon investor bukan hanya peluang bisnis AI, tetapi juga risiko yang dapat muncul dari teknologi yang dikembangkannya sendiri.

Perusahaan tetap menilai AI memiliki potensi besar untuk membantu ilmu pengetahuan, kesehatan, pendidikan, dan berbagai bidang lain. Namun, dokumen keselamatannya juga berulang kali menegaskan bahwa kemampuan AI yang meningkat harus diikuti dengan sistem pengawasan dan perlindungan yang mampu berkembang sama cepatnya.

Source: Anthropic, Reuters
Tags: Anthropicartificial intelligenceClaude

Related Posts

Ilustrasi dashboard performa website dengan riset kata kunci, struktur tautan, optimasi gambar, crawling dan pemantauan SEO
INTERNET

Cara Optimasi Website agar Mudah Ditemukan Google di Era AI

November 16, 2026
Ilustrasi perbandingan ChatGPT, Gemini, Claude, Perplexity, dan Microsoft Copilot pada laptop dan ponsel dengan simbol harga, penulisan, kantor, pemrograman, dan riset
TEKNO & SAINS

Harga Langganan AI November 2026: Kalau Hanya Pilih Satu, Mana yang Cocok?

November 15, 2026
REDMI Note 17 Pro Max 5G warna putih dengan modul kamera belakang dan tulisan baterai 10000 mAh pada materi promosi Xiaomi
GADGET

Harga HP Xiaomi dan Redmi November 2026 di Toko Resmi Indonesia

November 15, 2026

Highlights

Harga Pangan Naik Serentak 16 November 2026, Cabai Merah Keriting Tembus Rp121 Ribu per Kg

Operasi Zebra 2026 Dimulai Hari Ini, Polisi Incar Pengendara yang Pakai HP hingga Lawan Arus

Prabowo Puji Kapolri Suyudi, Sebut Membanggakan dan Menyejukkan

Cuaca Jabodetabek Hari Ini: Hujan Petir Mengintai, Warga Diminta Waspada

Dari Lahan Produktif Menuju Kemandirian, Lapas Cilegon Kembangkan PAS FM melalui Panen Jagung

Kursi Wapres Kosong, Yusril Tegaskan Tak Perlu Pelaksana Tugas

Terpopuler

Cara Pakai Promo Diamond Mobile Legends November 2026, Skin Mulai 1 Diamond

Jadwal MotoGP Portugal 2026: Sprint Sabtu Malam, Moto3 Jadi Penutup

Harga Nusantara Explorer, Rute, Fasilitas dan Cara Naik Kereta Wisata Premium KAI

Harga Emas Hari Ini 13 November 2026: Antam, UBS dan Galeri24 Turun

Google Buka Akses Gemini 4 Carbon, Siapa yang Bisa Menggunakannya?

Bulatan Times

Situs berita digital yang meliput peristiwa dan menuliskannya secara berimbang. Ikuti kabar nasional, ekonomi, teknologi, olahraga, kesehatan, dan perjalanan dalam satu tempat.

Informasi & Kebijakan

  • Tentang Kami
  • Kontak
  • Penghapusan Data Pengguna
  • Ketentuan Layanan
  • Kebijakan Privasi
  • Indeks
  • Pedoman Media Siber
  • Pasang Iklan
  • Sitemap

Terhubung dengan Kami

Kirim pertanyaan, saran, koreksi, dan kerja sama ke [email protected]. Akses Bulatan Times juga melalui aplikasi Android.

Bulatan Times Play Store

© 2026 BulatanTimes.com

Kelola Persetujuan

Kami Menggunakan Cookie
Bulatan Times menggunakan cookie dan teknologi serupa untuk membantu menjalankan situs, memahami penggunaan website, meningkatkan pengalaman pembaca, serta mendukung penayangan iklan yang relevan. Anda dapat menerima, menolak, atau mengatur preferensi cookie.

Fungsional Selalu aktif
Penyimpanan atau akses teknis yang diperlukan untuk menjalankan layanan dan fungsi dasar website.
Preferences
The technical storage or access is necessary for the legitimate purpose of storing preferences that are not requested by the subscriber or user.
Statistik
Penyimpanan atau akses yang digunakan untuk memahami penggunaan website dan meningkatkan layanan. The technical storage or access that is used exclusively for anonymous statistical purposes. Without a subpoena, voluntary compliance on the part of your Internet Service Provider, or additional records from a third party, information stored or retrieved for this purpose alone cannot usually be used to identify you.
Pemasaran
Penyimpanan atau akses yang digunakan untuk mendukung penayangan iklan dan mengukur efektivitasnya.
  • Kelola pilihan
  • Kelola layanan
  • Kelola {vendor_count} vendor
  • Baca selengkapnya tentang tujuan ini
Lihat Preferensi
  • {title}
  • {title}
  • {title}
  • Beranda
  • NEWS
    • NASIONAL
    • DUNIA
    • EKONOMI
    • BISNIS
    • Hukum
  • OLAHRAGA
    • BOLA
      • Liga Indonesia
      • Liga Inggris
      • Liga Italia
      • Liga Spanyol
      • Klasemen Liga Indonesia
      • Klasemen Liga Inggris
      • Klasemen Liga Italia
      • Klasemen Liga Spanyol
    • MOTOGP
    • F1
    • SPORT
  • TRAVEL
  • TEKNO & SAINS
    • GADGET
    • INTERNET
  • HEALTH
  • KULINER
  • GAME

© 2026 Bulatan Times