人工智能搞错农药的浓度怎么办？农业中人工智能决策的法律风险
精准农业有能力颠覆我们熟知的农业，并将由人工智能和机器学习所驱动。但农民、农业供应商和精准农业技术的提供者也需要意识到相关的法律风险。若以果园管理软件为例，该软件使用人工智能模型输出农药施用的精准建议。假如人工智能模型建议以违反政府规定的浓度施用农药，责任在哪里？
精准农业
精准农业涉及使用机器人、云计算、智能传感器、执行器和人工智能等尖端技术来增强和改造传统农业技术。例如，精准农业可用于确定适用于季节特定日期的某些植物或田地等部分来优化农业解决方案。
这些技术具有多种好处，包括提高作物产量、获得更多价值和利润、减少工业密集型农业活动和改善环境收益。人工智能将在日益动荡的运营环境中降低农业风险并缓解劳动力短缺等挑战。
人工智能早已或多或少的存在于农业行业，农民、供应商，尤其是精准农业技术开发商都注意到了这一点。精准农业中使用的人工智能通常涉及人工智能的一个子集，即机器学习。最简单的说法是，机器学习是关于模式识别，指一组用于识别数据模式并根据该数据进行概率预测的算法。
在这方面，人工智能通常被理解为一种计算机程序，它接受一个或多个输入，如图像、录音或数据表，并输出一些预测或物理动作。在某些应用中，这些预测可用于通知自动决策系统。
例如，人工智能已用于各种应用，如基于卫星和农业无人机的病虫害检测与控制；开发新型作物；收获机器人的自动化；牲畜、植物和土壤的监测和管理；或基于历史和实时信息预测作物健康、市场需求或天气模式等等。
尤其是最近人们对人工智能的兴趣激增，意味着初创公司和大型农企都将寻找新方法来扩大人工智能在精准农业技术中的应用。
为此，美国参议院的农业、营养和林业委员会曾在去年 11 月举行了听证会，以“美国农业创新：利用技术和人工智能”为题进行过广泛讨论。
该委员会探讨了人工智能在精准农业中日益普及所带来的风险。这些风险如何适用于特定用例，以及政府如何努力应对这些风险。
农业领域人工智能的下一步发展及风险
听证会期间，几位专家明确表示，需要采取进一步措施让人工智能充分发挥其在农业领域的潜力，特别是提高所收集大量数据的质量。汇总数据并使用人工智能分析和应用这些数据将带来更好、更快、更精确的解决方案。
尽管有大量数据可用，但并非每个农民都能访问这些数据并将其输入可靠的决策工具。农民之间的数据共享计划可由合作社和数字化平台提供帮助，并且可以通过建立数据共享标准来促进这些做法。这些标准可以加强数据汇总，同时保护个人隐私。
但是，并非所有农民都能获得可以利用其数据的昂贵解决方案。专家指出，额外的技术或财政援助将有助于农民实施数字化农业技术。
偏见
尽管人工智能算法看起来很智能，但它们始终是用于训练算法的数据的产物。通常，人工智能算法是使用历史数据或其他代表问题空间的数据进行训练的，以根据已知的信息进行概率预测。
因此，反映训练数据的偏见可能会潜入人工智能算法的预测中。S2G Ventures 的执行合伙人 Sanjeev Krishnan 在听证会上警告道，人工智能系统可能会延续偏见，使用不透明的决策过程，并且可能不会对结果负责。
由于人工智能算法可能像黑匣子一样运作，使用集成人工智能的精准农业产品的农民可能对产生它们的数据分析或预测过程没有清晰的了解。
精准农业技术中包含的偏见可能源于训练数据来自特定的地理位置、作物类型、季节、天气或规模。因此，人工智能的预测可能无法推广到所有情况。
小农户可能会受到偏见数据的更大影响。人工智能精准农业软件使用不成比例地反映大规模农业经营的数据进行训练，可能会导致对小型农场不适用或无益的建议和优化方案。这些建议甚至可能会造成经济损失，例如农作物产量下降或成本增加。
尽管训练算法的开发人员非常清楚这种风险，但这种风险并不总是能够完全缓解。为了将风险降至最低，专家建议应教育人工智能产品的用户如何训练产品，特别是使用哪些数据进行训练。
虽然开发人员可能会试图通过责任豁免来限制对有偏见结果的责任，但与训练数据偏见相关的法律理论尚未经过检验。
基于算法构建的精准农业软件的开发人员应采取积极措施，尽量减少偏见，并仔细记录他们对有偏见输出的合理预防措施。专家还建议，避免偏见和使数据更普遍使用的起点可能是数据收集的标准，而这些标准应建立农场数据隐私和安全核心原则之上。
数据隐私和安全
对于数据隐私和安全，首先考虑的是有关获取和使用训练数据的法律问题。精准农业技术的开发者很少会拥有足够的训练数据来生成可以完全通用的人工智能模型。
因此，开发者通常必须为此购买或许可训练数据。但是，训练数据可能包括农场运营数据或地理定位数据。在某些情况下，人工智能模型输出可能足够精确，可以识别训练数据的来源。同样，训练数据可能包括部分或全部受专利或商业秘密保护的信息。
农业法律师 Todd Janzen 在听证会上表示担心，农民收集的数据最终将不属于他们，而属于人工智能系统的提供商。
根据现有的数据保护法，数据没有被整齐地分类。例如，有的数据可能不是“个人身份”信息，但根据现有的隐私法，这些信息会受到一些保护。虽然一些农业数据可能受到商业秘密的保护，但农业数据的法律地位通常未经过实践的检验。
根据约翰迪尔公司高级副总裁兼首席技术官的 Jahmy Hindman 博士的说法，约翰迪尔遵循并公开他们的原则，即所有农场数据都将由农民控制，包括数据的收集、存储、处理和共享方式。S2G Ventures 的 Sanjeev Krishnan 则指出，如果农民的农业数据不保密，创新可能会受到阻碍。
例如，机密数据的发布可能构成对方法的公开披露，这可能会影响该方法的可专利性。另一方面，数据可以根据数据共享计划或合作社进行汇总，这可能使农民能够从使用更全面的数据中受益，同时匿名化自己的数据，从而保护每个农民的个人隐私。
虽然人工智能精准农业技术的开发者和用户都可能根据违反数据保护法的理论承担责任，但目前这种情况仅在有限的情况下才成立，因为农业数据通常不受现行隐私法的保护。更大的风险在于，由于对人工智能驱动的精准农业技术开发者缺乏信任，无法获得、存储和使用收集的数据，可能导致商誉和潜在利润的损失。
除了与数据保密性相关的这些问题外，网络犯罪分子越来越多地将目标对准农业食品行业，特别是粮食合作社以及种子和化肥供应商。因此，全面的数据隐私和安全方法必须付诸于全面实践。
因此，开发人员应采取隐私优先的方法来获得信任，而用户则应保持警惕并要求赢得信任。同样，建立数据收集和使用的行业标准可以帮助建立这种互信。
幻觉或操纵结果
一些人工智能系统容易产生所谓的“幻觉”或其他误导性或错误的结果。根据农业法律师 Todd Janzen 的观察，如果不清楚谁会赔偿农民因系统故障、错误输出或基于错误不准确的供应商数据或信息的错误输出，或操纵系统提取的互联网内容而造成的损失，农民可能会犹豫是否继续依赖人工智能系统。
如果人工智能系统侵犯了第三方的权利，则不清楚人工智能系统的所有者是否要承担责任。例如，人工智能工具可以侵犯人类无法侵犯的隐私墙，并且他们可能能够访问受保护的信息。
以果园管理软件为例，该软件使用人工智能模型输出农药施用的精确建议。如果人工智能模型建议以违反政府法规的浓度施用农药，责任在哪里？
虽然软件开发商、训练数据提供者和农民都牵涉其中，但根据现行法律，农民可能会承担违法行为的负担。但是，人工智能精准农业产品的开发商应该预见到，用户对人工智能产品的准确性的期望会越来越高，尤其是在产品被宣传为准确的情况下。
所以，人工智能驱动的精准农业技术和软件开发商应该谨慎选择营销语言，并对人工智能模型输出的准确性设定合理和有限的期望。
在法律合同中添加过多的保护措施（例如软件服务条款 (ToS)）可能会减缓人工智能工具的广泛采用，因为农民可能不愿意签署复杂的保修和免责声明。此外，立法者也可以采取措施将这种操纵定为非法，或者让人工智能系统的提供商对由此造成的损害承担责任。
在听证会上，专家们主张政府支持和贷款计划以加速采用精准农业技术。然而，也有专家警告，很大一部分农民担心，使用人工智能的精准农业技术固有的数据共享增加可能会被政府用作颁布新法规的基础，从而增加农民的文书工作量。尽管如此，鼓励建立合作社、平台和自愿标准或原则的立法和指导可以帮助建立信任，明确数据所有权和人工智能流程不准确结果的责任。
