在当今快速发展的数字环境中，人工智能毫无疑问将会重塑我们的世界，问题是如何重塑？从新手到经验丰富的高管都在努力应对这一重大转变，在努力挖掘人工智能的潜力的同时降低相关风险。OpenAI的ChatGPT已经在该领域引起轰动。我们惊叹于它与人类一样流利地对话，同时也不禁要问：我们能相信它吗？

在我们应对这一重大转变的过程中，对信息安全和风险防范的关注变得至关重要，尤其是在人工智能领域。这就是数字信任既迷人又复杂之处。在最近关于数据泄露和隐私问题的新闻报道中，数字信任和强大的信息安全从未如此重要。ChatGPT对数字互动的深刻影响迫使我们仔细研究数字信任的概念。

我们将通过检查确保ChatGPT在道德和法律范围内运行的机制，探讨人工智能如何加强数字交互中的信息安全。此外，我们将考虑如何处理潜在的错误信息、偏见和隐私问题，以及如何使用ChatGPT识别网络安全威胁和降低风险。最后，我们将研究人工智能时代先进的人工智能模型为数字信任带来的机遇和挑战。

围绕ChatGPT和数字信任的对话都会影响到我们所有人，无论你是刚开始从事科技行业，还是经验丰富的专业人士。所以，让我们开始深入了解吧。

ChatGPT在数字身份验证和欺诈检测中的作用

随着我们对数字互动领域的深入研究，有一点是明确的：信任已经成为一种关键货币。对于每个人，无论是行业新人或者是成熟的风险和安全专业人士，问题一直存在——我们如何确保与我们互动的数字身份是真实和值得信赖的？这是我们的AI主角ChatGPT的切入点。

复杂的验证

ChatGPT可以提供更加动态、交互式的验证过程。传统的数字身份验证方法通常依赖于静态的二进制数据点，比如密码或安全问题。然而，ChatGPT参与复杂对话的能力可能会带来更先进的、基于对话的身份检查。想象验证过程中，系统可以根据先前的交互向用户提出个性化的上下文问题。这将使恶意行为者很难冒充用户，因为他们需要访问大量特定的个人对话历史，而不仅仅是一个密码。

增强的欺诈检测

ChatGPT的另一个亮点是欺诈检测。人工智能模型可以快速准确地分析大量数据。当ChatGPT用于通信数据时，可能会识别出暗示欺诈活动的模式、异常或行为。例如，它可以识别用户的通信方式是否发生了巨大变化——这是他们的帐户遭到入侵的潜在迹象。ChatGPT还可以通过发现恶意链接或识别骗子语言的微妙之处帮助检测网络钓鱼企图。

然而，重要的是要记住，ChatGPT与任何人工智能应用程序一样，在数字身份验证和欺诈检测方面的作用并非没有挑战。在我们应用这一令人兴奋的前沿技术时，隐私问题、滥用的可能性以及维护人类监督的重要性都是必须解决的问题。

开发“可信的”人工智能：ChatGPT的伦理和法律考量

在数字和物理之间的界限不断模糊的世界里，确保人工智能在道德和法律范围内运行变得越来越重要。ChatGPT凭借其广泛的功能，将“可信”的人工智能概念放在首位。

防范错误信息

开发“值得信赖”的人工智能的关键挑战之一是确保其传播的信息是准确的。利用ChatGPT庞大的语言模型，错误信息可能会漏洞百出。

解决偏见

另一个关键问题是偏见。由于人工智能模型从数据中学习，可能会无意中反映或放大现有的社会偏见。这意味着，必须完善提供给人工智能审查人员的指导方针以确保透明度。

确保隐私

隐私是值得信赖的人工智能领域的一个关键考虑因素。虽然ChatGPT的通用FAQ强调用户不应在人工智能对话中共享任何敏感信息，但我们都应确保尽最大努力维护用于训练模型的ChatGPT输入和输出的隐私性。

法律边界

就法律边界而言，人工智能技术的演变性质往往带来挑战，因为现有法律可能无法完全涵盖这些新情况。因此，积极主动地与政策制定者、法律专家和整个社会接触，对于塑造确保负责任的人工智能使用的法律框架至关重要。

为了确保像ChatGPT这样的人工智能在未来值得信赖，很明显，我们需要一种全面的方法：积极应对错误信息，持续努力最大限度地减少偏见，采取强有力的隐私措施，并参与制定法律框架。这个过程是一项集体努力，需要科技界所有人员的参与。在我们不断创新的同时，还必须努力维持一个合乎道德和可靠的数字环境。

对网络安全的影响：ChatGPT等人工智能技术的双刃剑

在一个数字前沿不断扩张和演变的世界里，维护网络安全已成为一项日益复杂的任务。像ChatGPT这样的人工智能技术可以为加强网络安全提供什么样的可能性将很有趣。然而，这些创新也带来了必须面对的新挑战。

识别威胁和缓解风险

ChatGPT的语言处理能力使其成为识别网络安全威胁的潜在强大盟友。通过分析模式和检测通信数据中的异常，可以帮助发现入侵、网络钓鱼企图或不规则网络行为的迹象。例如，使用机器学习模型分析大量的网络流量数据可以帮助识别可能表明隐藏威胁的微妙模式。

挑战和考量

然而，当我们在网络安全中利用人工智能时，也必须意识到出现的新挑战。首先，我们用来保护系统的工具也可能遭到恶意使用。例如，人工智能系统可以用来发起复杂的攻击或生成深度伪造，从而导致确保人工智能操作的透明度和保持人类监督变得至关重要。

这是一个微妙的平衡。作为这个数字世界的管理者，我们必须继续带着创新者的好奇心和守门人的谨慎驾驭这个领域。

人工智能时代的数字信任：在ChatGPT及其他领域构建透明度、问责和道德

随着人工智能继续与我们的生活和业务交织在一起，“数字信任”概念变得越来越重要。这种信任——相信我们与技术的互动是安全、私密和可靠的——构成了所有成功的数字社会的基石。当我们部署像ChatGPT这样的人工智能技术时，都可以在促进数字信任方面发挥作用。

透明度

人工智能的透明度是指将人工智能系统的工作方式清晰地传达给用户。例如，这意味着当ChatGPT响应查询时，用户应该理解它为什么给出那个特定的响应。这是为了确保人工智能不会成为一个“黑匣子”——一台在没有人理解它是如何得出这些结论的情况下接收数据并给出答案的机器。

问责

在人工智能的世界里，问责包括确保ChatGPT不会导致伤害或滥用。这意味着要采取措施纠正所造成的任何伤害，并从这些事件中吸取教训。

道德考量

人工智能的道德与透明度和问责密不可分。合乎道德地部署ChatGPT意味着考虑其对社会和个人的潜在影响，如隐私问题、错误信息传播和潜在偏见。道德考量有助于我们在人工智能的巨大潜在收益和可能带来的风险之间找到界限。

建立信任基础

从根本上说，显然像ChatGPT这样的工具在加强我们数字互动中的信息安全方面具有巨大潜力。在人工智能时代，保持对数字世界的信任是一个持续的过程，需要不断关注和适应。这个过程包括提出棘手的问题，做出复杂的决策，以及作为一个技术社区进行合作。随着我们继续将ChatGPT等人工智能技术融入数字环境，让我们专注于建立一个强大的信任基础，促进创新，同时优先考虑每个参与者的安全和福祉。作为技术领域的专业人士，我们有责任以负责任和合乎道德的方式理解、适应和创新。让我们继续探索、质疑和学习，因为这就是技术之旅的意义所在，在加强信息安全方面尤其如此。

图片

编者按: 本文于2023年7月19日首次发表于ISACA官网News and Trends/Newsletters/@isaca。文章内容仅代表作者本人观点。

图片

作者：Sampa David Sampa, CISA

翻译：唐四宝（Jerry Tang），CISA， CDPSE，CZTP，ISACA微信公众号特邀通讯员。

校对：姚凯（Kevin Yao），CISA，CISM，CRISC，CGEIT，CDPSE，ISACA微信公众号特邀通讯员，关注IT安全，隐私保护和数字化。