Apakah Kami Menciptakan Monster Ini? Bagaimana Twitter Menjadi Beracun

Selama bertahun-tahun, semangat perusahaan untuk kebebasan berbicara membutakannya pada masalah keamanan. Sekarang berebut untuk menebus waktu yang hilang.

Apakah Kami Menciptakan Monster Ini? Bagaimana Twitter Menjadi Beracun

Yair Rosenberg ingin menjebak para troll.

Rosenberg, seorang penulis senior untuk situs berita dan budaya yang berfokus pada Yahudi Majalah Tablet , telah menjadi target utama pengguna Twitter anti-Semit selama pelaporannya tentang kampanye presiden AS 2016. Meskipun dilempari dengan cercaan, dia tidak terlalu terpaku pada Nazi yang telah menerima layanan tersebut. Untuk sebagian besar saya menemukan mereka agak menggelikan dan mudah diabaikan, katanya.

Tapi satu jenis troll Twitter tertentu menggerogotinya: orang-orang yang menyamar sebagai minoritas—menggunakan foto curian dari orang sungguhan—dan kemudian menyusup ke percakapan tingkat tinggi untuk memuntahkan racun. Pembaca yang tidak curiga akan melihat pria yang terlihat seperti seorang Yahudi Ortodoks atau seorang wanita Muslim ini mengatakan sesuatu yang pada dasarnya menyinggung, ia menjelaskan. Jadi mereka berpikir, Oh, Muslim itu religius. Yahudi adalah religius. Dan mereka adalah orang-orang yang sangat ofensif.



cara membuat fb hitam

Rosenberg memutuskan untuk melawan. Bekerja dengan Neal Chandra, pengembang berbasis di San Francisco yang belum pernah dia temui, dia membuat bot Twitter otomatis bernama Imposter Buster. Mulai Desember 2016, akun tersebut memasukkan dirinya ke dalam utas Twitter yang sama dengan akun hoax dan dengan sopan mengekspos penyamaran troll (FYI, akun ini adalah seorang rasis yang menyamar sebagai seorang Yahudi untuk mencemarkan nama baik Yahudi).

Penipu Buster segera diserang sendiri-oleh rasis yang melaporkannya ke Twitter untuk pelecehan. Tanpa diduga, perusahaan memihak troll: Ini menangguhkan bot karena perilaku spam pada April berikutnya. Dengan bantuan dari Liga Anti-Pencemaran Nama Baik, Rosenberg dan Chandra membatalkan keputusan itu tiga hari kemudian. Tetapi target mereka terus mengajukan laporan pelecehan, dan Desember lalu Twitter sekali lagi memasukkan Imposter Buster ke daftar hitam, kali ini untuk selamanya.

Rosenberg, yang menganggap upayanya sebagai warga negara yang baik daripada main hakim sendiri, masih tidak yakin mengapa Twitter menganggapnya tidak dapat diterima; dia tidak pernah menerima penjelasan langsung dari perusahaan. Namun putusan itu memberi rasis kemenangan dengan KO teknis.


Untuk semua cara di mana Imposter Buster saga unik, itu juga merupakan gejala dari masalah yang lebih besar yang telah lama mengganggu Twitter: penyalahgunaan, persenjataan anonimitas, perang bot, dan pengambilan keputusan gerak lambat oleh orang-orang yang menjalankan platform waktu nyata. . Masalah ini semakin meningkat sejak Donald Trump menjadi presiden dan memilih Twitter sebagai corong utamanya. Platform ini sekarang menjadi tempat utama dunia untuk politik dan kemarahan, budaya dan percakapan – rumah bagi #MAGA dan #MeToo.

Status ini telah membantu meningkatkan kekayaan perusahaan. Penggunaan harian naik 12% dari tahun ke tahun, dan Twitter melaporkan laba kuartalan pertamanya di bulan Februari, membatasi periode 12 bulan di mana sahamnya berlipat ganda. Meskipun perusahaan tampaknya masih tidak mungkin untuk menyamai skala dan profitabilitas Facebook, itu tidak dalam bahaya gagal. Tangisan sesekali dari analis keuangan untuk CEO Jack Dorsey untuk jual twitter atau dari kritik untuknya matikan itu terlihat lebih dan lebih keluar dari langkah.

Meskipun Twitter lebih nyaman berdiri, Dorsey semakin vokal tentang masalah layanannya. Kami berkomitmen untuk membuat Twitter lebih aman, janji perusahaan di bulan Februari surat pemegang saham . Pada panggilan investor yang menyertainya, Dorsey menguraikan inisiatif kualitas informasi untuk meningkatkan konten dan akun pada layanan. Pengguna aktif bulanan telah terhenti di 330 juta – fakta bahwa perusahaan menghubungkan sebagian dengan pemangkasan spammer yang sedang berlangsung. Upaya pembersihan Twitter adalah pengakuan, meskipun secara implisit, bahwa serangkaian pembuat onar yang masih berkeliaran di platform—penyebar kebencian, pemasok berita palsu, dan pasukan bot teduh yang dirancang untuk memengaruhi opini publik—menghambat kemampuannya untuk tumbuh. . (Twitter tidak membuat Dorsey, atau eksekutif lainnya, tersedia untuk diwawancarai untuk cerita ini. Sebagian besar dari lebih dari 60 sumber yang kami ajak bicara, termasuk 44 mantan karyawan Twitter, meminta anonimitas.)

Meskipun perusahaan telah mengambil langkah-langkah signifikan dalam beberapa tahun terakhir untuk menghapus aktor jahat, itu tidak menghilangkan kesan yang tersisa bahwa itu tidak berusaha cukup keras untuk membuat layanan menjadi ruang yang lebih aman. Tanggapan Twitter terhadap insiden negatif sering kali tidak memuaskan para penggunanya dan lebih dari sekadar hal yang misterius—hukumannya terhadap Rosenberg, alih-alih penyiksanya, menjadi contoh utama. Tolong bisakah seseorang yang pintar membuat situs web baru di mana hanya ada 140 karakter dan tidak ada Nazi? salah satu pengguna men-tweet tak lama setelah Twitter memperkenalkan tweet 280 karakter pada bulan November.

Twitter tidak sendirian dalam bergulat dengan fakta bahwa produknya dirusak untuk kedengkian: Facebook dan Google telah mendapat sorotan tajam sejak pemilihan presiden, karena semakin banyak informasi yang terungkap mengungkapkan bagaimana platform mereka memanipulasi warga, dari Cambridge Analytica hingga video konspirasi . Tanggapan perusahaan adalah pemalu, reaktif, atau lebih buruk. Semuanya bersalah karena menunggu terlalu lama untuk mengatasi masalah saat ini, dan semuanya masih memiliki jalan panjang, kata Jonathon Morgan, pendiri Data for Democracy, tim teknolog dan pakar data yang menangani proyek dampak sosial pemerintah. .

Taruhannya sangat tinggi untuk Twitter, mengingat bahwa mengaktifkan berita terkini dan wacana global adalah kunci untuk daya tarik pengguna dan model bisnisnya. Tantangannya, semakin, adalah dunia.

Bagaimana Twitter bisa terlibat dalam kekacauan ini? Mengapa baru sekarang menangani penyimpangan yang telah mengganggu platform selama bertahun-tahun? Keselamatan lolos dari Twitter, kata mantan VP di perusahaan itu. Itu adalah kotak Pandora. Setelah dibuka, bagaimana Anda memasukkan semuanya kembali?


Pada hari-hari awal Twitter, ketika para pendiri platform microblogging mencari tahu tujuannya, penggunanya menunjukkan kepada mereka kekuatan Twitter untuk selamanya. Didorong oleh gerakan sosial global, pembangkang, aktivis, dan pelapor yang merangkul Twitter, kebebasan berekspresi menjadi prinsip panduan startup. Biarkan kicauan mengalir, kata Alex Macgillivray, penasihat umum pertama Twitter, yang kemudian menjabat sebagai wakil CTO dalam pemerintahan Obama. Secara internal, Twitter menganggap dirinya sebagai sayap kebebasan berbicara dari partai kebebasan berbicara.

Ideologi ini terbukti naif. Twitter menjadi begitu yakin akan kebajikan komitmennya terhadap kebebasan berbicara sehingga para pemimpin benar-benar salah paham bagaimana itu dibajak dan dipersenjatai, kata seorang mantan eksekutif.

Tanda pertama masalah adalah spam. Pornografi anak, serangan phishing, dan bot membanjiri tweetstream. Twitter, pada saat itu, tampaknya terganggu oleh tantangan lain. Ketika perusahaan menunjuk Dick Costolo sebagai CEO pada Oktober 2010, dia mencoba untuk memperbaiki infrastruktur yang mendasari Twitter-perusahaan telah menjadi identik dengan halaman kesalahan server paus yang gagal, yang menunjukkan fondasi rekayasa yang lemah. Meskipun Twitter meroket ke 100 juta pengguna selama 2011, tim antispamnya hanya terdiri dari empat insinyur yang berdedikasi. Spam sangat memalukan, dan mereka membangun alat-alat bodoh yang sangat minim ini untuk [melawannya], kata seorang mantan insinyur senior, yang mengingat perang bot yang meletus saat akun palsu saling berebut klik.

Anda tidak dapat mengambil pujian untuk Musim Semi Arab tanpa bertanggung jawab atas Donald Trump, kata Leslie Miley , mantan manajer keselamatan teknik di Twitter. [Ilustrasi foto: Delcan & Perusahaan ]

Grup kepercayaan dan keamanan Twitter, yang bertanggung jawab untuk melindungi pengguna, dijalankan oleh Del Harvey, karyawan Twitter No. 25. Dia memiliki resume yang tidak biasa untuk Silicon Valley: Harvey sebelumnya bekerja dengan Perverted Justice, grup sukarelawan kontroversial yang menggunakan ruang obrolan web untuk menemukan predator seksual yang nyata, dan bermitra dengan NBC Untuk Menangkap Predator , menyamar sebagai anak di bawah umur untuk memikat para pedofil agar ditangkap di TV. Kurangnya pengalaman teknis dan kebijakan tradisional membuatnya menjadi sosok yang terpolarisasi dalam organisasi, meskipun sekutu telah menemukan semangatnya tentang isu-isu keselamatan yang menginspirasi. Pada hari-hari awal, dia secara pribadi menanggapi pengguna individu [yang terpengaruh] – Del bekerja tanpa lelah, kata Macgillivray. [Dia] menangani beberapa masalah paling kompleks yang dihadapi Twitter. Kami tidak melakukan semuanya dengan benar, tetapi kepemimpinan Del sangat sering menjadi faktor ketika kami melakukannya.

Pandangan Harvey, yang diperjuangkan oleh Macgillivray dan eksekutif lainnya, adalah bahwa pidato yang buruk pada akhirnya dapat dikalahkan dengan lebih banyak pidato, sebuah keyakinan yang menggemakan keputusan Amandemen Pertama Hakim Agung Louis Brandeis tahun 1927 bahwa obat ini selalu lebih disukai daripada keheningan yang dipaksakan. Harvey kadang-kadang menggunakan frase Yo jalang sebagai contoh, yang dimaksudkan oleh aktor jahat sebagai makian, tetapi orang lain menganggapnya sebagai halo yang lancang. Siapa yang diputuskan oleh Twitter? Pasar ide akan mengetahuinya.

Pada 2012, spam bermutasi menjadi trolling yang merusak dan ujaran kebencian. Beberapa insinyur di grup Harvey telah membangun beberapa alat internal untuk memungkinkan timnya menghapus konten ilegal dengan lebih cepat seperti pornografi anak, tetapi mereka tidak siap untuk menjamurnya pelecehan di Twitter. Setiap kali Anda membangun tembok, seseorang akan membangun tangga yang lebih tinggi, dan selalu ada lebih banyak orang di luar yang mencoba meniduri Anda daripada di dalam yang mencoba menghentikan mereka, kata seorang mantan insinyur platform. Tahun itu, tokoh TV Australia Charlotte Dawson menjadi sasaran kicauan kejam—misalnya, gantung diri—setelah dia berbicara menentang pelecehan online. Dawson mencoba bunuh diri dan dirawat di rumah sakit. Musim panas berikutnya, di Inggris, setelah aktivis Caroline Criado-Perez berkampanye untuk menampilkan gambar wanita pada uang kertas 10 pon, umpan Twitter-nya dibanjiri dengan troll yang mengirimkan 50 ancaman pemerkosaan per jam.


Perusahaan merespons dengan membuat tombol khusus untuk melaporkan penyalahgunaan dalam tweet, namun troll hanya tumbuh lebih kuat di platform. Secara internal, Costolo mengeluhkan penyalahgunaan ekonomi itu mundur. Hanya butuh beberapa detik untuk membuat akun untuk melecehkan seseorang, tetapi melaporkan bahwa penyalahgunaan membutuhkan mengisi formulir yang memakan waktu. Tim Harvey, dengan sungguh-sungguh meninjau konteks setiap tweet yang dilaporkan tetapi kekurangan staf pendukung yang cukup besar, bergerak perlahan. Berbagai sumber mengatakan bahwa tidak jarang kelompoknya membutuhkan waktu berbulan-bulan untuk menanggapi tiket penyalahgunaan yang menumpuk. Karena mereka tidak memiliki dukungan bahasa yang diperlukan, anggota tim harus mengandalkan Google Terjemahan untuk menjawab banyak keluhan non-Inggris. Agen dukungan pengguna, yang secara manual mengevaluasi tweet yang ditandai, sangat kewalahan oleh tiket sehingga jika pengguna yang dilarang mengajukan banding atas penangguhan, mereka terkadang melepaskan pelanggar kembali ke platform. Mereka tenggelam, kata seorang sumber yang bekerja sama dengan Harvey. Sampai hari ini, mengejutkan bagi saya betapa buruknya keamanan Twitter.

Kepemimpinan Twitter, sementara itu, berfokus pada persiapan IPO perusahaan pada November 2013, dan sebagai hasilnya ia mencurahkan sebagian besar sumber daya tekniknya untuk tim yang mengawasi pertumbuhan pengguna, yang merupakan kunci promosi Twitter ke Wall Street. Harvey tidak memiliki dukungan teknis yang dia butuhkan untuk membangun solusi terukur untuk masalah Twitter.

Toksisitas pada platform meningkat selama ini, terutama di pasar internasional. Troll terorganisir untuk menyebarkan pesan misoginis di India dan anti-Semit di Eropa. Di Amerika Latin, bot mulai menginfeksi pemilu. Ratusan yang digunakan selama pemilihan presiden Brasil 2014 menyebarkan propaganda, memimpin eksekutif perusahaan untuk bertemu dengan pejabat pemerintah, di mana, menurut sebuah sumber, hampir setiap anggota dewan dan senat Brasil bertanya, 'Apa yang Anda lakukan dengan bot?' (Sekitar waktu ini, Rusia dilaporkan mulai menguji botnya sendiri untuk mempengaruhi opini publik melalui disinformasi. Twitter sebagian besar menoleransi akun otomatis di platform; sumber yang berpengetahuan mengingat perusahaan pernah mengirim surat penghentian dan penghentian kepada petani bot, yang diabaikan, sebuah simbol dari respon anemia untuk masalah ini.) Kepemimpinan Twitter tampak tuli terhadap tangisan dari kantor di luar negeri. Itu adalah perusahaan Bay Area, kata seorang mantan karyawan internasional, menggemakan keluhan umum bahwa Twitter menjadi korban miopia Lembah Silikon. Setiap kali [insiden] terjadi di AS, itu adalah tragedi di seluruh perusahaan. Kami akan seperti, 'Tapi ini terjadi pada kami setiap hari!

Baru pada pertengahan 2014, sekitar waktu troll memaksa putri komedian Robin Williams, Zelda, keluar dari layanan setelah ayahnya bunuh diri – dia kemudian kembali – bahwa Costolo akhirnya merasa cukup. Costolo, yang telah menjadi korban pelecehan di feed-nya sendiri, kehilangan kepercayaan pada Harvey, kata berbagai sumber. Dia menempatkan departemen lain yang bertanggung jawab untuk menanggapi tiket penyalahgunaan yang dikirimkan pengguna, meskipun dia meninggalkan Harvey yang bertanggung jawab untuk menetapkan pedoman kepercayaan dan keselamatan perusahaan.


Perang Tagar

Wacana di Twitter sering kali berubah menjadi pertikaian untuk menentang pandangan dunia.


Segera, ancaman berubah lagi: ISIS mulai memanfaatkan Twitter untuk meradikalisasi pengikut. Tenggelam dalam nilai-nilai kebebasan berbicara, para eksekutif perusahaan berjuang untuk merespons. Begitu video pemenggalan mulai beredar, terjadi pertengkaran brutal dengan Dick, kenang seorang mantan eksekutif puncak. Dia akan berkata, 'Anda tidak bisa menunjukkan orang terbunuh di peron! Kita harus menghapusnya!' Dan [yang lain akan berdebat], 'Tapi bagaimana dengan seorang mahasiswa PhD yang memposting gambar pembunuhan Kennedy?' Mereka memutuskan untuk mengizinkan gambar pemenggalan, tetapi hanya sampai pisau menyentuh leher, dan, menurut ke dua sumber, perusahaan menugaskan agen dukungan untuk mencari dan melaporkan konten pemenggalan kepala–sehingga tim yang sama kemudian dapat menghapusnya. Itu adalah hal terbodoh di dunia, kata sumber yang bekerja sama dengan Harvey. [Eksekutif] sudah membuat keputusan kebijakan untuk menghapus konten, tetapi mereka tidak ingin membuat alat untuk [secara proaktif] menegakkan kebijakan. (Twitter sejak itu telah membersihkan ratusan ribu akun terkait ISIS, sebuah pendekatan berotot yang telah memenangkan pujian platform.)

Costolo, yang frustrasi dengan upaya kecil perusahaan dalam mengatasi masalah ini, mengirim memo di seluruh perusahaan pada Februari 2015 yang mengeluh bahwa dia malu dengan banyaknya Twitter yang payah dalam menangani penyalahgunaan. Jika saya bisa memundurkan waktu, saya akan menjadi lebih agresif lebih awal, kata Costolo Perusahaan Cepat , menekankan bahwa kesalahan tidak ada pada siapa pun selain CEO pada saat itu: saya.


Saya sering mendengar orang-orang di Lembah Silikon berbicara tentang berita palsu dan disinformasi sebagai masalah yang dapat kita selesaikan, kata Brendan Nyhan, codirector of Jam Tangan Garis Cerah , sebuah kelompok yang memantau ancaman terhadap proses demokrasi. Itu salah. Orang mencari solusi yang tidak ada.

Lembah mungkin datang ke pemahaman ini. Tahun lalu, Facebook dan YouTube mengumumkan inisiatif untuk memperluas tim pemolisian konten masing-masing menjadi 20.000 dan 10.000 pekerja. Sementara itu, Twitter hanya memiliki 3.317 karyawan di seluruh perusahaan pada akhir 2017, sebagian kecil di antaranya didedikasikan untuk meningkatkan kualitas informasi.

Menempatkan manusia dalam jumlah besar pada pekerjaan, bagaimanapun, juga bukan obat mujarab. Ini memperkenalkan masalah baru, dari bias pribadi hingga harus melakukan panggilan rumit pada konten dalam hitungan detik. Peninjau ini menggunakan aturan terperinci yang dirancang untuk mengarahkan mereka membuat keputusan yang konsisten, kata Susan Benesch, rekan fakultas di Berkman Klein Center for Internet and Society di Harvard dan direktur Proyek Pidato Berbahaya . Itu hal yang sulit dilakukan, terutama dalam skala besar.

Manusia sering disalahkan atas pembersihan yang terlalu luas yang menangkap konten tidak berbahaya yang tidak melanggar kebijakan, seperti saat YouTube melakukan penyisiran untuk video ekstremis dan terkait senjata setelah penembakan Parkland, menghapus klip tertentu, dan bahkan seluruh saluran yang seharusnya tidak telah dikenakan eliminasi. Seorang juru bicara YouTube diterima ke Bloomberg , Anggota baru mungkin salah menerapkan beberapa kebijakan kami yang mengakibatkan penghapusan yang salah.

Besarnya teka-teki kontrol kualitas ini membantu menjelaskan mengapa Twitter sering gagal, setidaknya pada awalnya, untuk menghapus tweet yang dilaporkan pengguna karena pelecehan—beberapa termasuk sindiran terhadap kematian atau pemerkosaan—meskipun mereka tampaknya melanggar standar komunitasnya. Perusahaan juga mendapat kritik karena mengambil tindakan terhadap tweet yang melanggar aturan ini tetapi memiliki konteks yang luar biasa, seperti ketika aktris yang diskors sementara Rose McGowan karena memasukkan nomor telepon pribadi dalam serangkaian kicauan yang mencela tokoh-tokoh Hollywood setelah skandal pelecehan seksual Harvey Weinstein. Anda akhirnya menuruni lereng licin dalam banyak hal ini, kata mantan eksekutif Twitter tingkat C. 'Oh, solusi sederhananya adalah X!' Itu sebabnya Anda sekarang mendengar, 'Mengapa Anda tidak menyingkirkan bot saja?!' Nah, banyak [media yang sah] menggunakan [akun] otomatis untuk memposting berita utama. Banyak dari solusi mudah ini jauh lebih kompleks.


Lima bulan setelah ratapan Costolo pada Februari 2015, dia mengundurkan diri dari Twitter. Salah satu pendiri Jack Dorsey, yang menjalankan perusahaan sampai dia dipecat pada 2008, menggantikan Costolo sebagai CEO (sambil mempertahankan pekerjaan yang sama di perusahaan pembayarannya, Square, yang berkantor pusat satu blok di San Francisco). Dorsey, jurusan bahasa Inggris di negeri ilmuwan komputer, memiliki pemikiran mendalam tentang masa depan Twitter, tetapi dia tidak selalu dapat mengartikulasikannya dengan cara yang diterjemahkan ke para insinyur. Saya akan terkejut jika Anda menemukan seseorang [kepada siapa] Jack memberikan artikulasi yang sangat jelas tentang tesisnya untuk Twitter, kata mantan eksekutif puncak, mencatat bahwa Dorsey telah menggambarkan layanan dengan menggunakan metafora seperti Jembatan Golden Gate dan listrik outlet untuk pemanggang roti. Suatu kali, dia berkumpul di kantor San Francisco untuk rapat di mana dia memberi tahu karyawan bahwa dia ingin mendefinisikan misi Twitter—dan mulai memainkan The Beatles's Blackbird saat para hadirin mendengarkan dalam keheningan yang membingungkan.

Namun, tidak ada keraguan bahwa dia percaya pada etos yang mendefinisikan Twitter. Twitter adalah singkatan dari kebebasan berekspresi. Kami berdiri untuk berbicara kebenaran kepada kekuasaan, Dorsey tweeted pada hari resmi pertamanya kembali sebagai CEO Twitter, pada Oktober 2015.

Pada saat masa jabatan Dorsey berlangsung, Twitter telah menangani dengan lebih baik beberapa polusi verbal yang mengganggu layanan tersebut. Operasi anti-penyalahgunaan perusahaan telah diambil alih oleh Tina Bhatnagar, seorang veteran Salesforce tanpa basa-basi yang memiliki sedikit kesabaran untuk kebebasan berbicara. Bhatnagar secara dramatis meningkatkan jumlah agen pendukung outsourcing yang bekerja untuk perusahaan dan mampu mengurangi waktu respons rata-rata pada tiket laporan penyalahgunaan menjadi hanya beberapa jam, meskipun beberapa merasa prosesnya menjadi terlalu banyak permainan angka. Dia lebih seperti, 'Hanya menangguhkan mereka,' kata seorang sumber yang bekerja sama dengannya. Jika sebagian besar perusahaan dipandu oleh kata-kata Justice Brandeis, Bhatnagar mewakili kutipan terkenal Justice Potter Stewart tentang kecabulan: Saya tahu itu ketika saya melihatnya.

Perpecahan ideologis ini tercermin dalam hierarki organisasi perusahaan, yang membuat Harvey dan Bhatnagar berada di bagian terpisah dari perusahaan – hukum dan teknik, masing-masing – dengan manajer terpisah. Mereka sering mengerjakan hal yang sama persis tetapi dengan pendekatan yang sangat berbeda – itu hanya gila, kata seorang mantan karyawan tingkat tinggi yang merasa terlempar di antara kedua faksi. Bahkan mereka yang tampaknya berada di tim yang sama tidak selalu saling berhadapan: Menurut tiga sumber, Colin Crowell, Wakil Presiden Kebijakan Publik Twitter, pada satu titik menolak untuk melapor kepada bos Harvey, penasihat umum Vijaya Gadde (penerus Macgillivray), karena sebagian karena ketidaksepakatan tentang cara terbaik untuk mendekati masalah kebebasan berbicara.

bisakah kamu facetime di apple tv

Perselisihan menjadi umum: tim Bhatnagar ingin menangguhkan pengguna yang dianggap kasar, hanya untuk ditolak oleh Gadde dan Harvey. Itu membuat Tina gila, kata seorang sumber yang akrab dengan dinamika itu. Dia akan pergi mencari Jack, tetapi Jack akan berada di Square, jadi keesokan harinya dia akan mendengarkan dan mencatat di teleponnya dan berkata, 'Biarkan aku memikirkannya.' Jack tidak bisa membuat keputusan tanpa membuatnya kesal. orang-orang bebas berbicara atau orang-orang keamanan online, jadi semuanya tidak pernah terselesaikan.

Pendukung Dorsey berpendapat bahwa dia tidak selalu bimbang-tidak ada jawaban yang mudah. Perselisihan yang menggelegak ke Dorsey sering kali merupakan kasus tepi yang aneh, yang berarti bahwa setiap keputusan yang dia buat akan sulit untuk digeneralisasi ke berbagai kasus. Anda dapat memiliki aturan tertulis yang sempurna, tetapi jika tidak mungkin untuk diterapkan pada 330 juta pengguna, sama saja dengan tidak memiliki apa-apa, kata seorang sumber yang mengetahui tantangan perusahaan.

Dorsey memiliki tuntutan bisnis lain yang harus dipenuhi pada saat itu. Ketika dia kembali sebagai CEO, pertumbuhan pengguna terhenti, saham telah turun hampir 70% sejak tertinggi setelah IPO, perusahaan berada di jalur untuk kehilangan lebih dari 0 juta pada tahun 2015 saja, dan sejumlah karyawan yang sangat dihormati akan segera meninggalkan. Meskipun Twitter membuat beberapa kemajuan dalam merilis produk baru, termasuk Moments dan fitur video langsungnya, ia berjuang untuk menyegarkan pengalaman intinya. Pada Januari 2016, Dorsey menggoda pengguna dengan petunjuk tentang perluasan batas 140 karakter lama Twitter, tetapi butuh 22 bulan lagi untuk meluncurkan tweet 280 karakter. Twitter sangat kacau, kata Leslie Miley, yang mengelola grup teknik yang bertanggung jawab atas fitur keselamatan hingga ia diberhentikan pada akhir tahun 2015. Saat Anda mengganti VP produk setiap tahun, sulit untuk mempertahankan strategi.

Twitter tidak sepenuhnya menghargai kebaruan serangan 2016 terhadap komedian Leslie Jones, yang secara viral menyebarkan tangkapan layar tweet palsu Photoshop yang dimaksudkan untuk menunjukkan hal-hal memecah belah yang telah dia bagikan. [Ilustrasi foto: Delcan & Perusahaan ]

Kemudian pemilihan presiden AS tiba. Semua kutil Twitter akan diperbesar di panggung dunia. Agen dukungan Twitter, yang meninjau konten yang ditandai dan mengarungi media sosial yang paling gelap, menyaksikan tanda-tanda peringatan paling awal ketika Donald Trump mulai menyapu pemilihan pendahuluan. Kami melihat perubahan radikal ini, kata seorang pada saat itu. Diskriminasi tampak lebih mencolok, propaganda dan bot lebih agresif. Kata yang lain: Anda akan menghapusnya dan itu akan kembali dalam beberapa menit, mendukung Nazi, membenci orang Yahudi, [meme menampilkan] oven, dan oh, katak...katak hijau! (Itu akan menjadi pepe , kartun yang digambar kasar yang dikooptasi oleh supremasi kulit putih.)

Serangan troll Juli 2016 di SNL dan Ghostbuster bintang Leslie Jones– dihasut oleh provokator sayap kanan Milo Yiannopoulos –terbukti menjadi momen penting bagi upaya anti-pelecehan Twitter. Setelah Jones dibombardir dengan tweet rasis dan seksis, Dorsey bertemu dengannya secara pribadi untuk meminta maaf dan menyatakan darurat penyalahgunaan secara internal. Perusahaan melarang Yiannopoulos. Itu juga meningkatkan fitur mematikan dan memblokir dan memperkenalkan alat opt-in yang memungkinkan pengguna untuk menyaring apa yang telah ditentukan Twitter sebagai konten berkualitas lebih rendah. Idenya adalah bahwa Twitter tidak akan menekan kebebasan berbicara – itu hanya tidak akan mendorong tweet yang tidak diinginkan ke wajah penggunanya.

Tetapi upaya ini tidak cukup untuk melindungi pengguna dari bahaya siklus pemilihan Clinton-Trump. Selama serangan Jones, tangkapan layar tweet palsu, Photoshopped yang dimaksudkan untuk menunjukkan hal-hal yang memecah belah yang telah dibagikan Jones menyebar secara viral di seluruh platform. Jenis langkah disinformasi seperti ini akan menjadi ciri khas pemilu 2016 dan seterusnya, dan Twitter tidak menghargai kekuatan front baru ini dalam perang informasi.

Dari dua kampanye presiden, Trump lebih tahu bagaimana memanfaatkan layanan untuk memperkuat suara kandidatnya. Ketika Twitter mendapatkan penawaran iklan besar-besaran dari calon Partai Republik, karyawan sayap kiri mengeluh kepada tim penjualan bahwa mereka harus berhenti menerima uang omong kosong Trump.

Perselisihan yang sedang berlangsung dan belum terselesaikan tentang apa yang seharusnya diizinkan oleh Twitter di platformnya terus berkobar hingga musim gugur. Pada bulan Oktober, perusahaan mengingkari kesepakatan $ 5 juta dengan kampanye Trump untuk emoji #CrookedHillary khusus. Ada perdebatan [internal] yang kejam dan saluran balik ke Jack, kata seorang sumber yang terlibat. Jack berkonflik. Pada jam kesebelas, dia mencabut stekernya. Sekutu Trump kemudian mengecam Twitter karena dianggap bias politik.

Pada tanggal 8 November, karyawan terkejut ketika pemilihan kembali mengalir, dan pagi hari setelah kemenangan Trump, markas Twitter menjadi kota hantu. Karyawan akhirnya mulai memahami peran yang dimainkan platform mereka tidak hanya dalam kebangkitan Trump tetapi juga dalam polarisasi dan radikalisasi wacana.

Kita semua memiliki momen 'sialan' ini, kata seorang pemimpin tim produk saat itu, menambahkan bahwa semua orang menanyakan pertanyaan yang sama: Apakah kita menciptakan monster ini?


Pada bulan-bulan setelah kemenangan Trump, karyawan secara luas mengharapkan Dorsey untuk membahas peran Twitter dalam pemilihan secara langsung, tetapi sekitar selusin sumber menunjukkan bahwa CEO sebagian besar tetap diam tentang masalah ini secara internal. Anda tidak dapat mengambil pujian untuk Musim Semi Arab tanpa bertanggung jawab atas Donald Trump, kata Leslie Miley, mantan manajer keselamatan.

Namun, seiring waktu, pemikiran Dorsey berkembang, dan dia tampaknya kurang ambivalen tentang apa yang akan dia izinkan di platform. Sumber mengutip larangan imigrasi kontroversial Trump dan manipulasi alt-right yang terus berlanjut sebagai pengaruh. Pada saat yang sama, Twitter mulai menarik pengawasan yang lebih besar dari publik, dan Kongres AS, atas perannya dalam menyebarkan disinformasi.

Dorsey memberdayakan para pemimpin teknik Ed Ho dan David Gasca untuk mengatasi masalah Twitter sepenuhnya, dan pada Februari 2017, sebagai bagian dari apa yang secara internal disebut sprint penyalahgunaan, perusahaan meluncurkan langkah-langkah yang lebih agresif untuk secara permanen melarang aktor jahat di platform dan lebih baik menyaring konten yang berpotensi kasar atau berkualitas rendah. Jack menjadi sedikit terobsesi, kata seorang sumber. Teknik di setiap departemen diminta untuk berhenti mengerjakan apa pun yang mereka lakukan dan fokus pada keselamatan.

Operasi keamanan Twitter, yang sebelumnya tertutup, menjadi lebih terintegrasi dengan sisi produk konsumen perusahaan. Hasilnya positif. Pada Mei 2017, misalnya, setelah mengetahui berapa banyak pelecehan yang dialami pengguna melalui fitur pesan langsung Twitter, tim yang mengawasi produk tersebut muncul dengan ide untuk memperkenalkan kotak masuk sekunder untuk menangkap konten buruk, mirip dengan folder spam. Mereka mulai memperbaiki keadaan, kata seorang mantan manajer di perusahaan, mengatasi masalah ini sebagai kombinasi produk dan kebijakan.

Selama video langsung Q&A yang diselenggarakan Dorsey pada bulan Maret, dia ditanya mengapa kepercayaan dan keselamatan tidak bekerja dengan teknik lebih awal. CEO tertawa, lalu mengakui, Kami memiliki banyak divisi historis di dalam perusahaan di mana kami tidak dapat berkolaborasi sebaik mungkin. Kami telah menyadari di mana kurangnya kolaborasi telah merugikan kami.

Bahkan korban penyalahgunaan Twitter sebelumnya telah mengakui bahwa langkah-langkah keamanan baru perusahaan telah membantu. Saya pikir Twitter melakukan pekerjaan yang lebih baik daripada mereka mendapatkan pujian publik, kata Brianna Wu, pengembang yang menjadi target utama Gamergate , kumpulan troll longgar yang serangannya pada tahun 2014 terhadap wanita terkemuka di industri game adalah burung kenari di tambang batu bara pelecehan Twitter. Sebagian besar ancaman pembunuhan yang saya dapatkan akhir-akhir ini dikirim kepada saya di Facebook atau melalui email, karena Twitter sangat efektif dalam mencegat mereka bahkan sebelum saya dapat melihatnya, tambahnya, terdengar sangat ceria. (Pertemuan Wu dengan sisi gelap jejaring sosial membantu menginspirasinya kampanye saat ini untuk kursi DPR AS di wilayah Boston, dengan keamanan online sebagai salah satu masalah utamanya.)

Ratusan bot digunakan dalam pemilihan presiden Brasil 2014 untuk menyebarkan propaganda politik di Twitter, memimpin seorang eksekutif perusahaan untuk mengunjungi negara itu dan bertemu dengan anggota Kongres Nasionalnya. [Ilustrasi foto: Delcan & Perusahaan + Jene]

Twitter juga lebih proaktif sejak pemilihan dalam melarang akun dan menghapus verifikasi, terutama nasionalis kulit putih dan pemimpin alt-right seperti Richard Spencer. (Tanda centang biru yang menandakan pengguna terverifikasi awalnya dirancang untuk mengonfirmasi identitas tetapi kemudian ditafsirkan sebagai dukungan.) Menurut tiga sumber, Dorsey sendiri secara pribadi mengarahkan beberapa keputusan ini.

Twitter mulai meluncurkan serangkaian perubahan kebijakan dan fitur Oktober lalu yang memprioritaskan kesopanan dan kejujuran daripada absolutisme kebebasan berbicara. Misalnya, meskipun mengancam pembunuhan selalu tidak dapat diterima, sekarang bahkan membicarakannya dengan menyetujui dalam konteks apa pun akan membuat pengguna ditangguhkan. Perusahaan juga mempersulit untuk menge-tweet informasi yang salah secara massal.

Tindakan keras semacam itu belum menghilangkan masalah layanan yang memburuk: Setelah penembakan massal Parkland pada bulan Februari, beberapa siswa yang selamat menjadi sasaran pelecehan, dan bot yang terkait dengan Rusia dilaporkan menyebarkan sentimen pro-senjata dan disinformasi. Namun, tidak ada yang bisa menuduh Twitter tidak menghadapi elemen terburuknya. Tekanan pada Dorsey untuk menjaga momentum ini juga datang dari Wall Street: Pada panggilan pendapatan baru-baru ini, seorang analis Goldman Sachs menekan Dorsey tentang kemajuan perusahaan dalam menghilangkan bot dan menegakkan kebijakan keselamatan. Kualitas informasi, jawab Dorsey, sekarang menjadi pekerjaan inti Twitter.


Hari Valentine yang lalu, Senator Mark Warner memasuki suite sudutnya yang megah di Washington, Gedung Kantor Senat Hart DC, menuangkan Vitaminwater untuk dirinya sendiri, dan bergegas menjelaskan mengapa Lembah Silikon perlu dimintai pertanggungjawaban atas perannya dalam pemilihan 2016 . Sebagai wakil ketua Demokrat dari Komite Intelijen Senat, Warner dibanjiri dengan audiensi profil tinggi dan pengarahan rahasia, tetapi topiknya juga pribadi untuk orang teknologi yang menggambarkan dirinya sendiri yang menghasilkan banyak uang pada tahun 1980-an dengan berinvestasi di telekomunikasi.

Warner memimpin penyelidikan komite terhadap campur tangan pemilu Rusia, yang semakin berpusat pada kekuatan raksasa teknologi yang tumbuh dan tak terkekang, yang dia yakini perlu mengatasi arogansi mereka dan memperbaiki platform mereka. Salah satu hal yang benar-benar menyinggung saya adalah reaksi awal dari perusahaan teknologi untuk meledakkan kami, dia memulai, mencondongkan tubuh ke depan di kursi kulitnya. 'Oh tidak! Tidak ada apa-apa di sini! Jangan lihat!’ Hanya dengan tekanan tanpa henti mereka mulai bersih.

Dia menyimpan kata-kata paling kasarnya untuk Twitter, yang katanya telah menyeret kakinya jauh lebih banyak daripada Facebook atau Google. Semua tindakan Twitter mengikuti tindakan Facebook, Warner mengeluh dengan suaranya yang serak, wajahnya memerah. Mereka sedang menyusun! Perusahaan adalah satu-satunya yang melewatkan tenggat waktu 8 Januari untuk memberikan jawaban atas pertanyaan Komite Intelijen, dan, membuat keadaan menjadi lebih buruk, Twitter mengungkapkan beberapa minggu kemudian bahwa bot terkait Kremlin berhasil menghasilkan lebih dari 450 juta tayangan, jauh lebih tinggi daripada perusahaan. dilaporkan sebelumnya. Ada [alasan] ini, 'Oh, well, itu hanya Twitter.' Itu bukan jawaban yang layak untuk jangka panjang.

Anda akhirnya menuruni lereng yang licin, kata mantan eksekutif Twitter tingkat C ketika ditanya mengapa layanan tersebut tidak dapat memperbaiki beberapa masalah penyalahgunaannya. ‘Oh, solusi sederhananya adalah X!’ Banyak dari solusi mudah ini jauh lebih kompleks. [Ilustrasi foto: Delcan & Perusahaan ]

Warner menyatakan bahwa dia telah melakukan percakapan offline langsung dengan Mark Zuckerberg, tetapi tidak pernah dengan Dorsey. Melempar bayangan, Warner tersenyum ketika dia menyarankan bahwa perusahaan mungkin tidak dapat melakukan sumber daya sebanyak yang dapat dilakukan Facebook dan Google karena memiliki model bisnis yang lebih rumit dan kurang menguntungkan.

Pertanyaan besarnya sekarang adalah seperti apa intervensi pemerintah itu. Warner menyarankan beberapa resep kebijakan yang luas, termasuk antitrust dan peraturan privasi data, tetapi yang memiliki potensi efek terbesar di Twitter dan para pesaingnya adalah membuat mereka bertanggung jawab atas konten di platform mereka. Ketika ditanya apakah Uni Eropa, yang lebih kuat dalam regulasi industri teknologinya, dapat menjadi model, sang senator menjawab, [Saya] senang UE bertindak. Saya pikir mereka lebih berani dari kita.

Jika pemerintah AS mulai mengambil peran yang lebih aktif dalam mengawasi jaringan sosial, itu akan melepaskan beberapa masalah jelatang yang sama yang sedang dikerjakan Eropa. Pada 1 Januari, misalnya, Jerman mulai memberlakukan undang-undang yang dikenal sebagai (napas dalam-dalam) Undang-Undang Penegakan Jaringan, atau NetzDG untuk jangka pendek. Alih-alih menetapkan batasan baru pada ujaran kebencian, ia mengamanatkan bahwa jaringan sosial besar menghapus materi yang melanggar undang-undang pidato yang ada di negara itu – yang jauh lebih ketat daripada yang setara di AS – dalam waktu 24 jam setelah diberitahu tentang keberadaannya. Keputusan yang akan memakan waktu berbulan-bulan di pengadilan biasa sekarang [dibuat] oleh perusahaan media sosial hanya dalam hitungan menit, kata Mirko Hohmann, manajer proyek yang berbasis di Berlin untuk Institut Kebijakan Publik Global .

generasi milenial umur berapa

Sebagai bukti bagaimana pendekatan ini dapat menciptakan hasil yang tidak diinginkan, ia menunjuk ke sebuah contoh di mana Twitter menutup sementara akun majalah humor Jerman setelah men-tweet dengan menyindir suara Beatrix von Storch, seorang pemimpin partai sayap kanan. Tidak ada pengadilan yang akan menilai tweet ini ilegal, tetapi seorang karyawan Twitter di bawah tekanan melakukannya, kata Hohmann. (Perusahaan tampaknya bahkan menghapus tweet lama oleh salah satu arsitek NetzDG, Heiko Maas, di mana dia menyebut politisi lain sebagai idiot.)

Di AS, daripada menunggu tindakan federal atau panduan internasional, anggota parlemen negara bagian di Maryland, New York, dan Washington sudah bekerja untuk mengatur iklan politik di jejaring sosial. Seperti yang dikatakan Warner, era kebijakan mandiri Lembah Silikon telah berakhir.


Terlepas dari apakah pemerintah federal turun tangan atau tidak, memperkuat jaringan sosial besar melawan penyalahgunaan akan melibatkan penerapan solusi yang bahkan belum ditemukan. Jika ada tongkat ajaib yang bisa mereka lambaikan untuk memecahkan tantangan ini, dengan sumber daya dan keahlian substansial yang mereka miliki, maka mereka pasti akan melakukannya, kata Graham Brookie, wakil direktur Dewan Atlantik. Lab Penelitian Forensik Digital .

Namun, ada banyak hal yang dapat dilakukan Twitter untuk melindungi platformnya. Menggunakan teknologi untuk mengidentifikasi bot jahat adalah masalah pelik, tetapi Twitter dapat memberi label pada semua akun otomatis seperti itu, yang tidak akan membuat umpan yang sah terpincang-pincang tetapi akan mempersulit bot Rusia untuk berpura-pura sebagai pendukung utama Trump.

Masalahnya di sini bukan karena ada otomatisasi di Twitter, kata Renée DiResta, kepala kebijakan Data untuk Demokrasi dan penasihat pendiri Pusat Teknologi Kemanusiaan . Masalahnya adalah ada akun otomatis yang mencoba diperlakukan sebagai orang sungguhan, yang bertingkah seperti orang sungguhan, yang memanipulasi orang.

Twitter juga dapat berbuat lebih banyak untuk mencegah orang membuat konten yang tidak pantas dengan membuat aturannya lebih terlihat dan mudah dicerna. Susan Benesch, yang Proyek Pidato Berbahayanya adalah anggota Dewan Kepercayaan dan Keamanan Twitter, mengatakan dia meminta para eksekutif untuk meningkatkan visibilitas kebijakan Aturan Twitter, yang menguraikan apa yang tidak dapat Anda katakan di layanan tersebut. Mereka bilang, 'Tidak ada yang membaca aturan,' dia menceritakan. Dan saya katakan 'Itu benar. Dan tidak ada yang membaca Konstitusi, tetapi itu tidak berarti kita tidak boleh mengadakan kelas kewarganegaraan dan mencoba membuat orang membacanya.'

Perusahaan juga dapat membangun kepercayaan dengan merangkul transparansi sebagai lebih dari sekadar kata kunci, berbagi lebih banyak dengan pengguna dan pemasar tentang bagaimana tepatnya Twitter bekerja dan berkolaborasi dengan peneliti luar. Dibandingkan dengan raksasa media sosial lainnya, model bisnisnya jauh lebih tidak bergantung pada penggunaan algoritme rahasia untuk memonetisasi data dan perilaku penggunanya, memberikannya kesempatan untuk terbuka dengan cara yang jarang dilakukan oleh yang lain. Cara orang menggunakan Twitter, menjadi sedikit lebih mudah untuk melihat dan memahami berbagai hal, kata Jason Kint, CEO grup perdagangan penerbit Digital Content Next. Padahal itu sangat sulit dengan YouTube dan saya akan mengatakan dengan Facebook itu cukup sulit.

Menuju tujuan yang lebih kolaboratif ini, dan terinspirasi oleh penelitian yang dilakukan oleh lembaga nonprofit Kortiko dan MIT Laboratorium untuk Mesin Sosial , Twitter mengumumkan pada bulan Maret bahwa mereka akan mencoba mengukur kesehatan percakapannya sendiri. Ini mengundang organisasi lain untuk berpartisipasi dalam proses ini, dan Twitter mengatakan akan mengungkapkan mitra pertamanya pada bulan Juli.

Upaya ini menarik, tetapi inisiatif crowdsourced juga terdengar sangat mirip dengan Dewan Kepercayaan dan Keamanan Twitter, yang misinya sejak diselenggarakan pada Februari 2016 adalah untuk para advokat, akademisi, dan organisasi akar rumput untuk memberikan masukan tentang pendekatan keselamatan perusahaan.

Banyak orang yang bekerja untuk Twitter tidak menginginkan metrik tetapi mea culpa. Menurut salah satu sumber yang telah membahas masalah ini dengan pimpinan perusahaan, Tanggapan mereka terhadap semuanya pada dasarnya adalah, 'Dengar, kami mendengar Anda, tetapi Anda tidak dapat menyalahkan Twitter atas apa yang terjadi. Jika bukan kami, itu akan menjadi media lain.’ Para eksekutif tidak mengakui fakta bahwa kami bertanggung jawab, dan itulah salah satu alasan mengapa saya berhenti.

Bahkan Senator Warner percaya bahwa sebelum rekan-rekannya mempertimbangkan undang-undang, CEO perusahaan teknologi harus bersaksi di depan Kongres. Saya ingin mereka semua, bukan hanya Dorsey. Saya ingin Mark dan saya ingin [pendiri Google] Sergey [Brin] dan Larry [Halaman], katanya. Jangan kirim pengacara Anda, jangan kirim orang kebijakan. Mereka berutang penjelasan kepada publik Amerika.

Ketika Twitter memulai inisiatif metrik kesehatan barunya, publik Amerika tampaknya akhirnya mendapatkannya, setelah Dorsey men-tweet tentang Twitter, Kami tidak sepenuhnya memprediksi atau memahami konsekuensi negatif dunia nyata. Kami mengakui itu sekarang. Dia melanjutkan: Kami tidak bangga dengan bagaimana orang memanfaatkan layanan kami, atau ketidakmampuan kami untuk mengatasinya dengan cukup cepat. . . . Kami telah memfokuskan sebagian besar upaya kami untuk menghapus konten yang bertentangan dengan persyaratan kami, alih-alih membangun kerangka kerja sistemik untuk membantu mendorong debat, percakapan, dan pemikiran kritis yang lebih sehat. Ini adalah pendekatan yang kita butuhkan sekarang.

Satu minggu kemudian, Dorsey terus mengakui kesalahan langkah di masa lalu selama siaran video langsung selama 47 menit di Twitter. Kami akan membuat kesalahan-saya pasti akan membuat kesalahan, katanya. Saya telah melakukannya di masa lalu seputar seluruh topik keselamatan, penyalahgunaan, informasi yang salah, [dan] manipulasi di platform ini.

Inti dari siaran langsung adalah untuk berbicara lebih banyak tentang mengukur wacana, dan Dorsey mencoba menjawab pertanyaan yang diajukan pengguna. Tetapi ratusan komentar real-time yang bergulir di layar menggambarkan tantangan besar di depan. Saat video berlanjut, umpannya dipenuhi dengan penghinaan anti-Semit dan homofobik, keluhan pedas dari pengguna yang takut Twitter membungkam kepercayaan mereka, dan tangisan sedih agar perusahaan menghentikan rasisme. Sambil mengelus janggutnya, Dorsey menyipitkan mata ke ponselnya, mengamati aliran bicara yang buruk saat dia mencari yang bagus.