Tag Archives

4 Articles
Bahaya Algoritma Big Data dapat Menghasilkan Keputusan yang Rasis

Bahaya Algoritma Big Data dapat Menghasilkan Keputusan yang Rasis

TL;DR

Aplikasi Big Data atau apa pun aplikasi pembelajaran mesin tetap memerlukan pengawasan untuk menghasilkan keputusan yang benar. Tanpa pengawasan, sebuah algoritma pembelajaran mesin yang dimiliki oleh aplikasi Big Data dapat menghasilkan keputusan rasis.

Rangkuman Artikel

Suatu hari Prof. Latanya Sweeney menemukan bahwa Google Ads menyarankan namanya sebagai orang yang pernah di penjara. Padahal, dia tidak pernah masuk penjara. Hal ini membuat dia meneliti lebih lanjut.

Setelah diteliti lebih lanjut, ternyata algoritma pembelajaran Google Ads menemukan bahwa sekitar 80% lebih nama yang biasa diberikan kepada bayi kulit hitam berisi artikel tentang kriminalitas yang berakhir di penjara. Artinya, Google Ads membentuk informasi tersebut dari artikel-artikel yang berisi nama tersebut.

Seorang matematikawan, Prof. Alvaro Bedoya, menjelaskan bahwa selain data, input yang diberikan (tanpa sengaja) oleh pengguna Big Data juga dapat mempengaruhi keputusan pembelajaran mesin (machine learning) pada perangkat lunak Big Data. Misalnya, keputusan menghasilkan calon tenaga kerja.

Pada awalnya, perangkat lunak AcmeIN memilih calon pekerja dengan variasi usia. Ketika perusahaan-perusahaan yang menggunakan AcmeIN memilih calon-calon tenaga kerja dengan usia muda, perangkat lunak AcmeIN kemudian belajar. Pada kueri berikutnya, AcmeIN 2.0, perangkat lunak akan menyaring orang-orang yang usianya tidak masuk secara otomatis. Padahal, belum tentu pekerjaan tersebut memiliki batasan umur.

Berdasarkan dua orang tersebut, penulis menyarankan ada beberapa hal yang perlu dilakukan:

  1. Meningkatkan kapasitas teknologi para advokat kepentingan umum, dan membentuk kelompok yang lebih besar berisi teknolog yang peduli kepentingan publik. Dengan terlibatnya teknolog dalam debat pengambilan keputusan dan meleknya pengambil keputusan tentang teknologi Big Data dan algoritmanya, maka diharapkan pemerintah dan organisasi masyarakat tersebut menjadi lebih kuat.
  2. Menekankan “transparansi algoritma”. Dengan menjamin keterbukaan algoritma untuk sistem kritikal seperti edukasi dan pengadilan, kita dapat mengevaluasi bias yang mungkin terjadi dan memperjuangkan perubahan untuk menghapus bias tersebut.
  3. Mengeksplorasi regulasi yang efektif tentang data personal. Sistem hukum yang sekarang sudah tidak dapat lagi memberikan arahan bagaimana data pribadi kita dapat digunakan dalam teknologi yang setiap hari kita tergantung. Kita bisa lebih lanjut.

Can computers be racist? Big data, inequality, and discrimination

Bacaan Lebih Lanjut

Keamanan Identitas

Keamanan Identitas

Scurity!

Saya baru saja menyelesaikan pelatihan CompTIA Security+ (2008 Objectives). Saya jadi vakum menulis karena tidak kuat menulis. Pulang-pergi ke daerah Sudirman (Jakarta) sungguh melelahkan. Saya salut dengan orang-orang yang melakukannya setiap hari kerja.

Oh, iya…

Oleh kantor saya ditawari antara Certified Ethical Hacker (CEH) atau CompTIA. Saya, mah, lebih memilih CompTIA. Lebih bergengsi dan lebih gimana, gitu… xD

Menurut saya, menginjeksi situs-situs sudah tidak semenarik social engineering. Botnet dan bahkan perang menggunakan situs pihak ketiga yang terbajak sudah lebih aplikatif. Ibarat jenderal perang, seseorang hanya perlu merencanakan sebuah obyektif (mencuri informasi, mengubah saham, merusak sebuah negara, dan berspekulatif misalnya) dan tinggal membeli botnet yang sudah jadi sesuai kebutuhan. Botnet pun tinggal bekerja dengan memanfaatkan kelengahan korban-korbannya.

Inilah kelebihan dari social engineering: menggunakan praktik-praktik sosial untuk mendapatkan informasi digital yang seringkali secara normal dijaga dalam sebuah benteng digital.

Apakah ini mungkin? Mungkin saja. Apalagi di Indonesia yang departemen terkaitnya cuma mengurusi bokep.

Masuk Gedung

Ketika saya masuk ke gedung tempat pelatihan, saya disuruh mendaftar ke meja registrasi. Hal yang membuat saya terkejut adalah sudah setiap orang dimonitor dengan CCTV, kita yang di meja registrasi juga ditangkap dengan kamera Web. Yang paling mengejutkan, saya harus menyerahkan KTP/SIM dan KTP/SIM tersebut dipindai ke dalam komputer.

Astaga! Memang, untuk manajemen keamanan bangunan tersebut, mereka berhak untuk melakukan pengamanan. Tetapi, apakah saya juga tidak berhak melindungi keamanan data saya?

Saya tidak pernah mengaudit keamanan manajemen gedung tersebut. Padahal, mereka sudah mengaudit saya dari pintu depan sampai ke meja registrasi. Bagaimana saya tahu kalau mereka tak akan menggunakan data dari KTP saya untuk hal-hal yang tidak benar atau menjualnya ke pihak ketiga?

Taruhlah bahwa mereka bertanggung jawab dan berintegritas atas keamanan data mereka. Namun, saya mau tahu bagaimana keamanan data saya yang telah mereka ambil? Apakah mereka menggunakan pengamanan yang cukup sehingga dapat dijamin bahwa memerlukan usaha dengan biaya yang tidak sebanding untuk mendapatkannya?

Sempat terbersit dalam hati saya untuk membeli materai Rp6000,00 dan menulis surat perjanjian yang ditandatangani oleh wakil manajemen gedung dan saya. Isinya adalah jaminan dan klausul perlindungan data KTP dan wajah saya yang dipindai takkan disalahgunakan. Selain itu, kebocoran data yang terjadi adalah sepenuhnya tanggung jawab manajemen yang berkewajiban untuk mengganti secara material maupun moral kerugian potensial yang terjadi.

Oh, iya, dong. Saya masuk gedung itu dengan penyanderaan data pribadi saya. Sedangkan mereka tidak diberikan tanggung jawab apa pun apabila terjadi kebocoran data. Anda tahu sendiri, ‘kan, penipuan sedang marak dewasa ini dan tak satupun berita yang menyebutkan negara secara aktif melibas gerakan tersebut. Ya, wajar, dong, saya paranoid. Saya bukan orang kaya yang bisa paksa negara menanggung kerugian saya.

Sayangnya, saya datang sebagai seorang pegawai dari sebuah institusi pendidikan di Indonesia. Gak asyik, ‘lah, pokoknya kalau cari gara-gara! 🙂 [PEACE}

Privasi Itu Bahasa Asing

Saya pasrah saja melihat data personal saya ditawan. Apalagi, yang lain juga diam saja diperlakukan seperti itu. Duh, kok, bisa, ya, semua orang diam. Mengapa mereka tak merasa sungkan dengan invasi privasi tersebut?

Dari hasil perenungan yang mengganjal pintu ini, (Halah… :-D)

saya menemukan perbedaan budaya yang berbeda antara orang Jakarta (dan Indonesia umumnya) dengan bangsa melek TIK. Yang pertama, adalah kebiasaan rumah tangga Satelit vs. Keluarga Besar. Kalau di Amerika Serikat, katanya kalau anak sudah kuliah langsung keluar dari rumah dan hidup sendiri. Di Indonesia, masih lazim kakek-nenek, ayah-ibu, dan anak-anak tinggal bersama-sama dalam rumah besar.

Sudah pasti, keluarga tersebut biasa berbagi rahasia. Apalagi, entah mengapa bangsa kita itu latah sekali di media sosial. Tidak mengerti tentang adanya cyber bullying, sindikat pedofilia, dan bahaya lainnya. Untung hal yang positif dari situ adalah Fatin jadi trending topic.

Yang kedua, saya pelajari bahwa bangsa kita masih memegang teguh gotong royong. Gerakan gotong royong mengakrabkan orang. Itu sebabnya, budaya timur santun dan peduli, tepa selira. Hal ini mengakibatkan rasa mudah percaya dalam mempercayakan informasi. Saya perhatikan, gedung itu bisa saja, kok, ditembus tanpa menimbulkan kegaduhan.

Tapi, ya, itulah susahnya kalau sudah lama jadi Sysadmin. Tangan sudah terikat dengan etiket dan kode kehormatan. Sudah tak ada lagi nafsu untuk melakukan hal-hal yang aneh seperti itu. Walau pun tantangan untuk masuk ke gedung tanpa melewati prosedur merupakan sebuah hacking yang menarik, penjaga keamanan juga sama seperti saya.

Salam damai dari sesama admin! 🙂

Saya penasaran mengenai pencurian identitas, apakah menurut Anda itu adalah sebuah hal yang sepele sehingga tidak perlu diregulasi?

A Cloudy Day, A Cloudy Day Indeed

A Cloudy Day, A Cloudy Day Indeed

We have heard of Software-as-a-Service, Infrastucture-as-a-Service, and so on. Now we have Testing-as-a-service. Everything is pushed to the cloud.

The cloud may be a convinient way to handle resource efficiency. But, who can guarantee the data there would not be misused? Can a corporate guarantee data? Can a single government guarantee data? Can a consorsium handle the privacy?

DMCA, copyrights, and all the past relics is nothing but a burden now. If the data pushed into the cloud, how could you ensure your copyright? It’s like a stupid bureaucrat of a certain place in a certain country that asking an airplane to get back. Plainly stupid!

What you post in the Internet can’t be deleted. EVER!

Affero license of GNU may be the answer but whom shall comform that? Whom willing to do so? Even that, can someone guarantee if the data is not leaking?

We may see the future of cloud computing, but we also may see days where we would asked if we are enslaved. Welcome to the digital imperialism.