我们佩戴它、观看它、使用它工作 — 如果不使用它，我们可能会遭受分离焦虑 可用。人类与技术的互动有何影响，特别是 当它被用来预测或监管我们时？
作为其第一个项目“算法文化”的一部分，政策、伦理研究所 足球比赛结果的文化和文化带来了社会正义的倡导者和 思想领袖 Marika Pfefferkorn 来到校园谈论她的工作。在本次问答中，Pfefferkorn 分享了 更多关于她的草根行动、它如何在全国范围内传播以及行动 她希望我们的社区在她访问后能够接受。
问：你是做什么的？你是如何开始这项工作的？
A：明尼阿波利斯-圣路易斯总部位于保罗的双城创新联盟 (TCIA) 是一个联盟 代表公共、私人和社区组织、公司的跨部门 和机构。 TCIA 的成立是为了积极推动智慧城市的出现 并参与构建互联社区的创业解决方案。我们 关注智慧城市领域数据的重要性和作用，包括 教育、治理、基础设施和交通。
什么是智慧城市？
正如这张国际电工委员会图表所示，从基础设施到人力服务，以提高效率的方式。
数据就像智慧城市的氧气，我们从一开始就意识到它是 必须与社区成员分享所存在的希望和危险 因为使用了他们的数据。现在我们的工作正在全国范围内扩展。
问：是什么让您对预测算法的固有偏差感兴趣？
答：2018 年，明尼苏达州教育厅确定了 43 个明尼苏达学区 人权部歧视黑人、棕色人和土著学生 主观校外停学。当拉姆齐县、圣保罗市和 圣保罗公立学校签订了包含综合数据的联合权力协议 在分享中，他们建议应用预测分析并使用风险评估来 分配风险评分以标记未来与青少年接触的风险儿童 司法系统。当我得知他们提议使用校外停课时 作为他们风险评估的指标，我很担心，因为他们会 进入是错误的，并且对有色人种学生和接受教育的学生存在种族偏见 特殊教育服务。我认识到决策者和政策制定者 没有尽职尽责地保护我们的学生免受种族歧视 或者污蔑那些在他们接受 K-12 教育之后仍会跟随他们的标签。
问：您发现可能受到有问题的算法影响的两个家庭 以及支持数据共享协议作为更有效和更有效的官员 帮助存在知识差距和/或感到害怕的社区的有效方法 讨论数字技术。你组织的联盟是如何获取信息的 对人？
答：一旦我们认识到没有人真正理解如此广泛的含义 联合权力协议，投入时间逐条分解文档：如果我们有疑问 问，如果我们有疑虑，我们会命名它们；如果我们需要澄清，我们会访问我们的社区 网络并联系了明尼苏达州 ACLU 和 Data for Black Lives 等合作伙伴。 据我们了解，我们创建了工具供每个人使用，作为更具建设性的催化剂 对话。这方面的一个例子是我们创建并分享的政策简报 我们选出的官员和利益相关者解释我们的担忧并强调问题 协议的各个方面。我们聘请家长作为大使并支持他们的努力 传达信息。我们举办了多次社区峰会和论坛，定位 其他社区成员作为专家谈论正在发生的事情和他们的担忧。 我们举办了敢于数据诊所和算法改进研讨会来帮助中断 我们的社区成员在处理法律或技术问题时感受到的大部分恐吓 与民选官员和政策制定者的语言。
“我们已经成为我们正在寻找的专家。如果我们创建 我们自己的成功算法？”
问：人们可能会留下您反对数据的印象。是这样吗？
答：当人们认为我反对数据时，我会笑，因为我的大部分工作都依赖于 获得良好的数据来讲述整个故事。对于很多从事这项工作的人来说， 没问题——除非你能证明数据有问题。我的大部分工作都在 学科差异要求我主张更多地收集数据 停职、办公室转介和开除；我关心的永远是我们怎么样 保护学生数据免遭误用和滥用——为什么非常重要。
问：有时，我们中的许多人感觉只是从一台计算机转到另一台计算机，从我们的计算机 手表和汽车给我们的家庭助理。你认为正确的关系是怎样的 技术是什么样的？
答：与技术的正确关系始于了解该技术 是一种工具，记住我们的人性是第一位的。技术不是灵丹妙药， 技术并不是一切问题的答案，技术必须保持在适当的状态 观点，不被视为中立，上述问题。最重要的是角色 技术的发展必须变得透明。
问：最近的头条新闻，包括对信用卡性别偏见和收集的指控 “秘密”财务分数（一页又一页的数据，基于外卖的所有内容） 从食品订单到看电视习惯）揭示了我们实际上拥有的隐私是多么少。是 算法时代的隐私可能吗？
答：我们正处于民主的转折点，人们愿意捐献 给宝宝洗澡时没有真正了解隐私的长期影响 在算法时代。科技公司正寄希望于这一点。我相信这是 家长、教育工作者、学区、州和联邦政府的作用 更好地帮助人们理解和驾驭这个新技术时代——尤其是 我们的数字原住民没有任何不同的认识。大众教育必须是优先事项 如果我们要保护现有的隐私保护措施。我们不能剥夺我们的隐私 这是理所当然的。
“没有隐私就没有隐私。”
问：本月早些时候您会见了教职员工、学生和工作人员。其中有哪些 您在校园里进行过的最有意义的互动是？
答：我真的很享受这次足球比赛结果的访问。我学到了很多关于政策、道德和文化研究所从我会见的创始委员会成员那里 - 我听说他们对 IPEC 的愿景已经实现 当他们描述他们希望完成的工作时，他们还活着。我希望我有机会 在他们推出这项工作时继续与他们合作。
这次访问中我最喜欢的部分是与法律与社会课程中的学生互动， 并会见计算机科学 教师和学生。尽管我接触过的许多学生可能都有 非常不同的世界观，通过我们的讲故事和讨论，我找到了共同点 以及对大数据、预测分析和算法等主题的真正兴趣。 我还带着一份新的阅读清单离开了。我发现大多数学生都很关心， 提出了很好的问题并参与了对话，因为他们做了个人的 理论与现实生活经验之间的联系。
演讲者系列继续
该算法文化演讲者系列 又为校园带来了两位思想领袖：
- 约翰·切尼-利波尔德，《的作者我们就是数据：算法和我们数字自我的塑造，提出“算法、事故和计算世界的强加” 问答位于晚上 7 点11 月 18 日星期一电能资源中心0103室。
- 梅雷迪思·布鲁萨德，作者人工非智能：计算机如何误解世界，在 展示“人工非智能”和问答晚上 7 点12 月 5 日，星期四，纪念联盟宴会厅 B。
“社区行动主义、学术、数据新闻——我们的第一位演讲嘉宾非常精彩 问题、文化定位和自身利益方面的多样性的融合，” 说国际消除童工劳动国际公约创始董事詹妮弗·达里尔·斯莱克。
研究所的下一个项目“设计人类世”将于 2020 年启动。
“我们将政策、道德和文化置于调查和询问的中心 我们应该如何关注发明、使用和保护方面的问题 文化与这些技术变革相关的演变方式，”Slack 说。 “我们参与这些问题是为了与我们的校园和社区互动，以了解 我们可以从他们身上学到什么以及如何与他们合作。”
问：您给我们的社区带来了哪些东西，您希望留在我们身边？
A：集成数据共享、预测分析的应用和算法的使用 不是一种新做法，但社区成员必须意识到并准备好参与 在有关其使用的讨论和决策过程中，以确保结果 与他们打算服务的社区并不分离，并且知道 某些学生受到其他学生的负面影响更大。当我们谈论数据时 和系统，我们必须认识到社区在滥用中所经历的伤害 数据和系统以及代表它们的个人必须在 他们有能力修复伤害并在采取任何后续措施之前开始建立信任 已采取。
问：您的项目下一步计划是什么？
答： 发起数据公益运动，与社区并肩工作 确定全国教育领域的新兴技术趋势 创建热图以跟踪发展、资源和政策的目的 玩。我们将召集这些社区联合研究人员来确定建议和 从社区角度出发的指南，作为社区可以使用的另一个工具 保护个人数据并确保系统和社区之间的信任。
足球比赛结果是一所 R1 公立研究型大学，成立于 1885 年，位于霍顿，拥有来自全球 60 多个国家的近 7,500 名学生。密歇根州旗舰科技大学的投资回报率一直名列全美最佳大学之列，提供超过 185 个本科和毕业生科学技术、工程、计算机、林业、商业、健康专业、人文、数学、社会科学和艺术领域的学位课程。乡村校园距离密歇根州上半岛的苏必利尔湖仅数英里，提供全年户外探险的机会。
评论