The Black Box Society: The Secret Algorithms That Control Money and Information

هر روز، شرکت‌ها نقاط مربوط به رفتار شخصی ما را به هم وصل می‌کنند—بی‌صدا سرنخ‌هایی را که عادات کاری و استفاده از اینترنت ما به جا مانده است بررسی می‌کنند. داده‌های جمع‌آوری‌شده و پرتره‌های ایجاد شده به‌طور باورنکردنی دقیق هستند، تا جایی که تهاجمی هستند. اما چه کسی نقاط مربوط به آنچه شرکت ها انجام می دهند با این اطلاعات به هم متصل می کند؟ انجمن جعبه سیاه استدلال می کند که همه ما باید بتوانیم این کار را انجام دهیم—و محدودیت هایی را برای تأثیر داده های بزرگ بر زندگی ما تعیین کنیم.

الگوریتم‌های پنهان می‌توانند شهرت ایجاد کنند (یا خراب کنند)، سرنوشت کارآفرینان را تعیین کنند، یا حتی کل اقتصاد را ویران کنند. مدت‌ها تصور می‌شد که تصمیمات شرکت‌های بزرگ سیلیکون ولی و وال استریت که در راز و پیچیدگی پوشانده شده بود، خنثی و فنی بودند. اما افشای اطلاعات، افشاگران، و اختلافات حقوقی، نور جدیدی را بر قضاوت خودکار روشن کرده است. رفتار خودخواهانه و بی پروا به طرز شگفت آوری رایج است و به راحتی در کد محافظت شده توسط رازداری قانونی و واقعی پنهان می شود. حتی پس از اینکه میلیاردها دلار جریمه وضع شد، رگولاتورهای فاقد بودجه ممکن است فقط سطح این رفتار نگران‌کننده را خنثی کرده باشند.

فرانک پاسکوال نشان می‌دهد که چگونه منافع قدرتمند از رازداری برای کسب سود سوء استفاده می‌کنند و توضیح می‌دهد که راه هایی برای مهار آنها. تقاضای شفافیت تنها اولین قدم است. یک جامعه قابل درک اطمینان می دهد که تصمیمات کلیدی مهم ترین شرکت هایش منصفانه، بدون تبعیض و قابل انتقاد هستند. سیلیکون ولی و وال استریت باید به همان اندازه که به دیگران تحمیل می کنند، مسئولیت پذیری کنند.

Every day, corporations are connecting the dots about our personal behavior—silently scrutinizing clues left behind by our work habits and Internet use. The data compiled and portraits created are incredibly detailed, to the point of being invasive. But who connects the dots about what firms are doing with this information? The Black Box Society argues that we all need to be able to do so—and to set limits on how big data affects our lives.

Hidden algorithms can make (or ruin) reputations, decide the destiny of entrepreneurs, or even devastate an entire economy. Shrouded in secrecy and complexity, decisions at major Silicon Valley and Wall Street firms were long assumed to be neutral and technical. But leaks, whistleblowers, and legal disputes have shed new light on automated judgment. Self-serving and reckless behavior is surprisingly common, and easy to hide in code protected by legal and real secrecy. Even after billions of dollars of fines have been levied, underfunded regulators may have only scratched the surface of this troubling behavior.

Frank Pasquale exposes how powerful interests abuse secrecy for profit and explains ways to rein them in. Demanding transparency is only the first step. An intelligible society would assure that key decisions of its most important firms are fair, nondiscriminatory, and open to criticism. Silicon Valley and Wall Street need to accept as much accountability as they impose on others.