Svet technológií bol vždy mocný a krátky na to, aby premýšľal o dôsledkoch tejto sily. Ak sa dá postaviť, vždy sa nájde niekto, kto ju postaví bez toho, aby uvažoval o bezpečnejšom a bezpečnejšom spôsobe, nehovoriac o tom, či by sa technológia mala vôbec stavať. Softvér sa napíše. Koho zaujíma, kde a ako sa používa? To je úloha pre niekoho v rohovej kancelárii.
Viac znepokojujúcich: Aj keď sa kurzy etiky stali základom inžinierskych titulov z fyzikálneho sveta, v pedagogike informatiky zostávajú nepeknou anomáliou. Zatiaľ čo softvér preberá viac nášho života, etické dôsledky rozhodnutí prijímaných programátormi sa iba zväčšujú. Teraz, keď je náš kód v chladničkách, termostatoch, dymových hlásičoch a ďalších, nesprávne kroky, nedostatok predvídavosti alebo priam pochybné rozhodovanie môžu ľudstvo prenasledovať všade, kam to pôjde.
[Čo je a čo je v aplikácii dev: 15 horúcich programovacích trendov - a 15 chladných. | Ukážte, koľko toho naozaj viete o vývoji, a to prostredníctvom nášho testovacieho programu IQ, 3. kolo a nášho kvízu o programovacích jazykoch „Hello, world“. | Pracujte inteligentnejšie, nie ťažšie - stiahnite si Sprievodcu prežitím pre vývojárov, kde nájdete všetky tipy a trendy, ktoré programátori potrebujú vedieť. | Držte krok s najnovšími správami pre vývojárov prostredníctvom informačného bulletinu Developer World. ]
Nasleduje niekoľko etických problémov, s ktorými sa vývojári stretávajú každý deň - či už o tom vedia, alebo nie. Nie sú ľahké odpovede, do istej miery preto, lebo samotná podstata práce je taká abstraktná. Aby toho nebolo málo, podnikanie sa stalo tak neoddeliteľne prepojené s počítačovou technológiou, že je ťažké vyvážiť potreby a motiváciu všetkých investovaných strán v snahe zabrániť tomu, aby sa dnešná funkcia obchodného prípadu stala zajtrajšou orwellovskou nočnou morou.
Trik je premýšľať nad súčasným zeitgeistom a predvídať každé budúce využitie toho, čo budujete. Celkom jednoduché, hm? Považujte to skôr za príručku pre vaše rozhodovanie a skôr za začiatočný bod pre druh etického rozjímania, ktorý by sme mali robiť ako každodennú súčasť našej práce.
Etická dilema č. 1: Súbory denníka - čo uložiť a ako s nimi zaobchádzať
Programátori sú ako krysy. Vedú záznamy o všetkom, často preto, že je to jediný spôsob, ako ladiť systém. Súbory denníka však tiež sledujú všetko, čo používatelia robia, a v nesprávnych rukách môžu odhaliť fakty, ktoré chcú používatelia uchovať v tajnosti.
Mnoho firiem je postavených na aktívnej ochrane súborov denníka. Niektoré služby vzdialeného zálohovania dokonca sľubujú, že budú uchovávať ďalšie kópie na rôznych geografických miestach. Nie každý podnik ašpiruje na takúto usilovnosť. Napríklad Snapchat postavil svoju značku na tom, že veľmi zle zálohoval dáta, jeho používateľov však láka sloboda zábudlivého systému.
Samotná existencia súborov protokolu vyvoláva niekoľko etických otázok. Sú primerane chránené? Kto má prístup? Keď hovoríme, že zničíme súbory, sú skutočne zničené?
Podstatou je zisťovanie, aké informácie sa oplatí uchovávať, a to vzhľadom na etické alebo iné riziká. Tu budúcnosť komplikuje rovnicu. V 60. rokoch bolo fajčenie všeobecne prijímané. Nikto by si dvakrát nemyslel, že bude mať prehľad o fajčiarskych návykoch ľudí. Dnes však možno poznatky o fajčiarskej činnosti niekoho použiť na zvýšenie sadzieb zdravotného poistenia alebo dokonca na odmietnutie krytia.
Budúce obchodné dohody; budúce vládne nariadenia; nepredvídaná, zúfalá potreba nových tokov výnosov - je nemožné predpovedať, aký zdanlivo nevinný súbor denníka sa stane v budúcnosti problematickým, je však nevyhnutné zohľadniť etiku spôsobu, akým s denníkmi narábate.
Etická dilema č. 2: Či - a ako - transformovať používateľov na produkty
Je to zažité príslovie éry startupu: Ak neplatíte za službu, nie ste zákazníkom; ty si produkt.
Na internete je „bezplatných“ služieb neúrekom. Otázka, odkiaľ peniaze budú pochádzať, sa v skutočnosti často odkladá. Iba budujeme úžasnosť, sledujeme metriky prijatia a počítame s tým, že niekto iný sa postará o špinavú prácu so udržiavaním svetiel servera. Najhorší prípad je, že vždy existujú reklamy.
Vývojári musia byť vopred informovaní o tom, kto podporí ich prácu a odkiaľ budú peniaze pochádzať. Všetky zmeny by mali byť používateľom oznámené jasným a včasným spôsobom, aby nedošlo k šokom a spätnému rázu. Transformácia ľudí na produkty je etický posun, ktorý netreba brať na ľahkú váhu. Tienisté reklamné ponuky, tienisté reklamné siete - musíme byť opatrní, ako zaobchádzame s implicitnou dôverou tých, ktorí si reklamu adoptujú včas.
Etická dilema č. 3: Aký slobodný skutočne chce byť obsah?
Mnoho firiem závisí od poskytovania obsahu bez toho, aby platili tým, ktorí ho vytvárajú. Niektorí sa obracajú a predávajú reklamy alebo si dokonca účtujú poplatok za prístup. Tieto podniky často nedokázali prežiť a nedokázali oceniť svoj materiál tak atraktívne, keby museli niesť svoj spravodlivý podiel na nákladoch na vývoj. Vyvíjajú prepracované racionalizácie týkajúce sa „zdieľania“ alebo „čestného použitia“ s cieľom zakryť eticky neisté rozhodnutie.
Vývojári si musia položiť otázku, ako ich kód podporí všetkých v potravinovom reťazci, od tvorcov až po spotrebiteľov. Prajú si ľudia, ktorí vytvárajú tento obsah, distribúciu svojej práce týmto spôsobom? Sú radi, že pracujú iba pre vystavenie alebo pozornosť? Poskytuje sa im spravodlivý podiel z výnosov?
Neuvažovanie nad týmito otázkami vedie k privieraniu očí pred pirátstvom. Napokon, nie všetky informácie iba „chcú byť slobodné“.
Etická dilema č. 4: Koľko ochrany je dostatočné
Niektorí tvrdia, že všetko by malo byť dvakrát šifrované pomocou dvoch rôznych algoritmov a uzamknuté na pevnom disku, ktorý je uložený v trezore. Bohužiaľ, réžia spomaľuje systém na prechádzanie a 10-krát sťažuje vývoj. Aby toho nebolo málo, ak dôjde k prevráteniu jedného bitu alebo nesprávnej časti algoritmu, dôjde k strate všetkých údajov, pretože šifrovanie nie je možné vrátiť späť.
Iní nechcú zdvihnúť prst, aby chránili údaje. Podľa potreby vývojárov môže ďalší tím v prípade potreby pridať špeciálne šifrovanie neskôr. Alebo môžu namietať, že na tom nie je nič citlivé. Tímy, ktoré ignorujú tieto zodpovednosti, sú zvyčajne schopné vygenerovať množstvo ďalších kódov a vytvoriť kopu úžasných funkcií, po ktorých ľudia túžia. Koho zaujíma, či sú v bezpečí?
Neexistuje jednoduchá odpoveď na to, koľko ochrany je potrebné uplatniť. Existujú iba dohady. Viac je vždy lepšie - až do straty údajov alebo odoslania produktu.
Etická dilema č. 5: Opraviť chybu alebo neopraviť chybu?
Je dosť ťažké vyjednávať o etických hejnoch, keď sa týkajú aktívnych rozhodnutí, ale ešte ťažšie je, keď sa dá problém odsunúť nabok a označiť za chybu, ktorá sa nakoniec napraví. Ako tvrdo by sme mali pracovať na odstránení problémov, ktoré nejako vkĺzli do spusteného kódu? Vyhodíme všetko? Ako rozhodneme, či je chyba dostatočne závažná na to, aby bola opravená?
Isaac Asimov sa s touto problematikou stretol už dávno, keď napísal svoje robotické zákony a vložil jeden, ktorý robotovi zakazuje nič nerobiť, ak by jeho robotom došlo k úrazu. Jeho roboti mali samozrejme pozitrónové mozgy, ktoré dokázali okamžite vidieť všetky stránky problému a vyriešiť ich. Otázky pre vývojárov sú také komplikované, že mnoho chýb je ignorovaných a neopravených, pretože na ne nikto nechce myslieť.
Môže spoločnosť spravodlivo uprednostniť zoznam? Sú niektorí zákazníci dôležitejší ako ostatní? Môže programátor hrať obľúbené položky výberom jednej chyby pred druhou? O tom je ešte ťažšie uvažovať, keď si uvedomíte, že je ťažké predvídať, koľko škody spôsobí ktorákoľvek chyba.
Etická dilema č. 6: Koľko kódu - alebo kompromisu - aby sa zabránilo zneužitiu
Originálna webová kamera Apple prišla so šikovným mechanickým doplnkom, fyzickou uzávierkou, ktorá blokovala objektív, keď bol vypnutý. Uzávierka a spínač boli navzájom spojené; neexistoval spôsob, ako použiť fotoaparát bez toho, aby ste sami otvorili uzávierku.
Niektoré z novších webových kamier majú LED, ktoré majú svietiť, keď je aktivovaný fotoaparát. Spravidla to funguje, ale každý, kto programuje počítač, vie, že v kóde môže byť miesto, kde je možné odpojiť fotoaparát a LED diódu. Ak sa to podarí nájsť, z fotoaparátu sa dá stať špionážne zariadenie.
Výzvou pre inžiniera je predvídať zneužitie a navrhnúť, aby sa tomu zabránilo. Uzávierka Apple je jedným zo zrejmých a efektívnych príkladov, ako sa to dá elegantne urobiť. Keď som pracoval na knihe o podvádzaní SAT, stretol som jedného hackera, ktorý si do svojej kalkulačky pridával sieťový softvér. Po dlhšom uvažovaní sa rozhodol podporovať iba káblové protokoly, pretože sa obával, že deti do skúšky vkradnú kalkulačku s Wi-Fi. Podporou iba káblových protokolov zabezpečil, že ktokoľvek v teste bude musieť viesť vodič k stroju svojho suseda. Neznášal preskakovanie bezdrôtových protokolov, ale cítil, že riziko zneužitia je príliš vysoké.
Etická dilema č. 7: Ako ďaleko na obranu zákazníkov pred požiadavkami na údaje
Ak zhromažďujete údaje, je to bezpečná stávka, že sa vaša organizácia jedného dňa dostane medzi služby zákazníkom a vláde. Žiadosti o dodanie údajov právnickým osobám sú čoraz bežnejšie a čoraz viac organizácií zaoberajúcich sa softvérom a službami necháva úvahy o tom, do akej miery prezradia súkromie svojich zákazníkov pred zákonom. Tieto žiadosti môžete preskúmať a dokonca si môžete najať svojich vlastných právnikov, aby spochybnili, či sú skutočne zákonní, ale realita je taká, že súdy budú o zákonnosti rokovať dlho potom, ako sa vyčerpajú vaše finančné prostriedky.
Nie sú jednoduché riešenia. Niektoré spoločnosti sa rozhodli radšej opustiť podnikanie, ako klamať svojim zákazníkom. Iní sa snažia byť otvorenejší ohľadom požiadaviek, ktoré sa vláda snaží často zakázať.
Etická dilema č. 8: Ako riešiť medzinárodný charakter internetu
Internet funguje všade a vyhýba sa mnohým tradičným prekážkam na hraniciach. Môže to byť recept na právne bolesti hlavy, keď sú zákazníci A a B v rôznych krajinách. To je iba začiatok, pretože servery C a D sú tiež často v úplne odlišných krajinách.
To vedie k zjavným etickým problémom. Napríklad v Európe platia prísne zákony o uchovávaní osobných údajov a porušenie súkromia považuje za etické zlyhanie. Ostatné krajiny trvajú na tom, aby spoločnosti viedli bohaté záznamy o rokovaniach. Koho zákony by mala spoločnosť dodržiavať, keď sú zákazníci v rôznych krajinách? Kedy sú údaje v rôznych krajinách? Keď sa údaje prenášajú cez medzinárodné linky?
Držať krok s každou zákonnou udalosťou môže byť herkulovské, takže mnoho organizácií bude určite v pokušení zaboriť svoje hlavy do piesku.
Etická dilema č. 9: Koľko vrátiť open source
Každý vie, že otvorený zdrojový kód je zadarmo. Neplatíte nič a práve vďaka tomu je to také úžasné a zložité. Nie všetci však uvažujú o etických otázkach, ktoré so sebou prináša použitie tohto bezplatného kódexu. Všetky balíčky open source majú licenciu a musíte ich dodržiavať.
Niektoré z licencií nevyžadujú veľké obete. Licencie ako licencia Apache alebo MIT si vyžadujú potvrdenie a to je asi tak všetko. Ale iné licencie, ako napríklad GNU General Public License, požadujú zdieľanie všetkých vašich vylepšení.
Analýza licencií na otvorené zdroje môže predstavovať etické problémy. Jeden manažér z veľkej verejnej spoločnosti mi povedal: „My nedistribuujeme MySQL, takže nikomu nič nedlhujeme.“ Kľúčoval k doložke spísanej pred desiatkami rokov, ktorá spájala povinnosti licencie s činom redistribúcie softvéru. Spoločnosť používala pre svoje webové aplikácie MySQL, takže mal pocit, že by to mohlo trvať bez vrátenia peňazí.
Neexistujú jednoduché spôsoby, ako merať etické povinnosti, a mnoho programátorov zbytočne premrhalo veľa klávesových dohadov o tom, čo to znamená. Celé úsilie sa napriek tomu zastaví, ak ľudia prestanú dávať. Dobrou správou je, že prispenie je často v najlepšom záujme každého, pretože každý chce, aby softvér zostal kompatibilný s jeho používaním.
Etická dilema č. 10: Koľko monitorovania je skutočne oprávnené
Možno sa váš šéf chce ubezpečiť, že zákazníci neoklamú spoločnosť. Možno sa chcete uistiť, že za svoju prácu dostanete zaplatené. Možno nejaký strašidelný človek z vlády hovorí, že musíte chytiť zadné vrátka, aby ste chytili zločincov. V každom prípade je argument plný záruk, že zadné vrátka budú použité, rovnako ako Supermanovy sily, iba na podporu pravdy a spravodlivosti. Nebude použitá proti politickým nepriateľom alebo menej šťastným. Nebude sa predávať despotickým režimom.
Čo však v prípade, že zločinci odhalia skryté dvere a prídu na to, ako ich sami použiť? Čo ak sa váš zadný vrátok používa na podporu nepravdy a nespravodlivosti? Váš kódex nemôže sám prijímať etické rozhodnutia. To je tvoja práca.
Etická dilema č. 11: Aký nepriestrelný kód by mal skutočne byť
Iste, minimálny výpočet, jednoduchá dátová štruktúra a prístup hrubou silou fungujú dobre v ukážke, keď sú problémy malé. Používatelia vyskúšajú kód a povedia: „Bože, toto funguje rýchlo.“ O niekoľko mesiacov neskôr, keď sa do systému načíta dostatok údajov, sa objavia slabé stránky lacného algoritmu a kód sa spomalí pri prehľadávaní.
