（香港文汇报记者 马翠媚）新一份财政预算案数码港首合办数字世界大会与5大专院校签备忘部署将香港发展为人工智能（AI）产业国际交流协作汇聚地。香港数码港首次联同国际组织世界数字科学院（WDTA）及国际院士科创中心（IASTIC）昨日合办“数字世界大会：人工智能安全、可信、负责任”论坛，三方在会上签署合作备忘录，以携手推广AI STR（安全、可信与负责任）测试和评估的最佳实践，积极培训AI人才及探索合作开发AI测试基础设施。论坛期间WDTA宣布于数码港筹建“世界数字科学亚太研究院”（亚太研究院），数码港亦与五间本地大专院校签署合作备忘录，共同促进与AI相关的应用研究和人才培育，助力香港开拓AI新赛道。
●全球人工智能行动峰会昨日举行合作备忘录签署仪式。 香港文汇报记者万霜灵 摄
WDTA昨表示，于数码港筹建的亚太研究院，将着力推动区内AI安全标准及相关举措的制定，推动数字技术创新、培育科学与产业应用人才，及促进数字时代的全球合作。WDTA是于2023年在联合国框架指导下创立的国际新型创新和研究机构，旨在推动国际社会在数字技术领域的突破性进展，并致力构建一个更加安全、高效、共享的全球数字生态，而WDTA亦已发布三项AI STR标准，包括生成式人工智能应用安全测试标准、大语言模型安全测试方法和大模型供应链安全要求。
为大专生提供实习机会
除了推广负责任的AI应用外，在培育人才方面，数码港昨与五间本地大专院校包括香港大学、城市大学、都会大学、香港高等教育科技学院及香港信息科技学院，在论坛上签署合作备忘录，共同促进与AI相关的应用研究和人才培育，例如为合作的大专院校学生提供实习及就业机会，藉以为香港AI产业发展注入更多生力军，促进本地AI发展。另外，WDTA亦发布两项AI人才认证课程，包括“大模型应用工程师认证（LLMAE）”与“大模型技术专家认证（LLMTE）”，旨在加速培育兼具技术实力与社会责任的下一代AI专业人才，推动AI安全、可信与负责任的发展。
世界数字科学院执行理事长李雨航昨出席论坛致辞时表示，AI发展必须以人为本、安全为基，他提出三项核心倡议：首先，构建“安全原生”的技术基因，将安全嵌入AI全生命周期，推动算法透明度与数据溯源认证体系；其次，建立“以人为本”的价值坐标，让技术服务于医疗普惠、中小企转型等社会需求；最后，WDTA 实行“负责任创新”的全球承诺，其人工智能委员会在联合国可持续发展目标指导框架下应对深度伪造、数据滥用等挑战。
世界数字科学院执行理事长李雨航：“AI发展必须以人为本、安全为基。”香港文汇报记者万霜灵 摄
联动标准制定 加速成果转化
国际院士科创中心创办人陈清泉出席同一场合时表示，香港作为连接全球的创新枢纽，是推动AI治理与合作的理想平台。他认为WDTA将以“速度、安全、共享”为核心原则，通过WDTA亚太研究院加速联动亚太地区政产各界在数字技术标准制定与前沿成果转化，率先落地AI STR（安全、可信与负责任）的标准与测评认证体系，健全国际AI治理与安全体系。他强调唯有跨行业、跨国界的协作，才能实现“不让任何人掉队”的包容性数字未来。
国际院士科创中心创办人陈清泉:“香港作为连接全球的创新枢纽，是推动AI治理与合作的理想平台。”香港文汇报记a03a4.jpg者万霜灵 摄
“数字世界大会：人工智能安全、可信、负责任”论坛昨在数码港举行，出席嘉宾包括创科局局长孙东、中央政府驻港联络办教育科技部副部长叶水球、数码港行政总裁郑松岩等，论坛亦邀请了不同学者、专家及来自公共行政、金融、医疗等行业领袖，就“跨行业AI转型”及“平衡AI创新应用与风险”等多个有关与AI应用相关热门议题，例如如何在不同领域中善用AI提高效率、改善服务质素及应对新挑战等，就不同议题分享见解和实务经验，吸引了不少关注AI发展、数字技术创新的人士参与，现场所见活动座无虚席。
数字世界大会论坛达成的合作撮要
WDTA宣布于数码港筹建亚太研究院
●着力推动区内AI安全标准及相关举措的制定
●推动数字技术创新、培育科学与产业应用人才
●促进数字时代的全球合作
数码港与WDTA及IASTIC签署合作备忘录
●携手推广 AI STR（安全、可信与负责任）测试和评估的最佳实践
●积极培训AI人才及探索合作开发AI测试基础设施
数码港与五间本地大专院校签署合作备忘录（港大、城大、都会大学、香港高等教育科技学院、香港信息科技学院）
●共同促进与AI相关的应用研究和人才培育
●为合作的大专院校学生提供实习及就业机会
●为香港AI产业发展注入更多生力军，促进本地AI发展
聚350 AI及大数据企业 数码港建港AI生态圈
（记者 马翠媚）数码港首次联同国际组织世界数字科学院（WDTA）及国际院士科创中心（IASTIC），合办“数字世界大会：人工智能安全、可信、负责任”论坛，昨在数码港举行，此为刚于法国巴黎结束的第三届“全球人工智能行动峰会”的香港分会场。
数码港主席陈细明:“数码港过去一年在构建人工智能生态圈方面取得显著的成绩。”香港文汇报记者万霜灵 摄
超算中心及实验室投入服务
数码港主席陈细明在致辞时表示，作为香港的数码科技旗舰及人工智能加速器，数码港过去一年在构建人工智能生态圈方面取得显著的成绩，包括已投入服务、香港目前规模最大的数码港人工智能超算中心，及数码港人工智能实验室，集结本地人工智能生态伙伴企业及人才，促进相关技术的研发及合作，他期待继续与各界合作，推动完善香港的人工智能生态圈，及人工智能的“向善”发展。
他提到，数码港现时汇聚逾350间专注研发人工智能及大数据的初创企业，并且引进多家人工智能领军企业，结合他们在算力开发、大模型建设、算法、数据科学等研发能力，促进人工智能研发创新及应用。
人工智能资助计划已批5项目
数码港人工智能超算中心以及人工智能实验室已于去年底投入服务，透过汇聚内地及海外人才及创新资源，在人工智能生态链的不同环节支持创新研发及应用，推动产业化发展，同时数码港亦获政府拨款30亿元，推行为期3年的“人工智能资助计划”，用作资助本地院校、研发机构及企业等善用超算中心的算力，提升研发能力、推动科研突破，加速创科产业化发展。计划去年10月起接受申请，财政司司长陈茂波日前披露，已批准5个由本地大学、科研机构等牵头的项目，加速推动本地与大语言模型、新材料、合成生物学大模型等相关的研发工作。
数码港有软硬件技术 助企业安全用AI
（记者 黎梓田）全球人工智能（AI）发展迅速，香港新一份财政预算案，有颇多关于加快香港人工智能发展的措施，数码港行政总裁郑松岩昨在全球人工智能行动峰会上致辞表示，数码港内与人工智能及数据科学有关的公司超过120间，能为企业提供技术解决方案，将积极与海外大学、研究机构及监管机构合作，推动建设一个安全、可信、负责任的人工智能生态。
●数码港行政总裁郑松岩
企业层面应用仍然较少
郑松岩表示，目前许多企业和机构虽然都热切期望利用人工智能提升效率、降低成本，或进行亲民的创新，但实际上，香港真正成功将人工智能模型融入企业日常运作流程的案例仍然很少。个人层面的应用较多，但企业层面应用仍较少。
他认为原因有二。首先，是企业对人工智能技术及其应用的专业人才仍然不足，因此许多企业对于是否及如何应用人工智能仍持犹豫态度，担心不知道选择哪种技术或工具。其次，企业对人工智能应用的风险也存在疑虑。他们担心使用人工智能可能带来一些风险，尤其是将其融入运营流程后，特别是在一些对风险要求较为严格的行业，如银行业，他们会有很多顾虑。
郑松岩表示，作为香港数字科技的枢纽和人工智能的加速器，数码港致力于建设人工智能生态，协助各行各业尽早掌握人工智能的应用。数码港构建的人工智能生态包括硬件、人工智能基础大模型、行业数据模型、海内外人工智能应用工具，以及相关解决方案。因此，如果企业不确定如何应用人工智能，可以尝试寻求数码港提供的技术解决方案。
逾百AI公司对接不同行业
他提到，除了硬件支持和技术方案外，数码港还提供实际应用的案例。过去一年，数码港内与人工智能及数据科学有关的公司超过120间，这些公司因其产品对接不同行业，累积了大量行业应用案例。数码港相信，企业可以从中受益。同时，数码港除了提供技术解决方案外，还组织了关于人工智能的伦理、风险管控等方面的研究。
他表示，数码港希望通过这些努力，协助企业管理人工智能带来的风险，减轻对用户的不利影响，并确保业务在意外发生时的持续性。数码港亦将积极与海外大学、研究机构及监管机构合作，推动建设一个安全、可信、负责任的人工智能生态。
蚂蚁张天翼：AI技术越提升 错误越难发现
（记者 黎梓田）人工智能（AI）技术近年呈现爆发式发展，其在企业及人们生活中的应用也越来越广泛，但其安全及风险仍是关注重点。蚂蚁国际风险管理部总经理张天翼昨在全球人工智能行动峰会上表示，人工智能风险一般主要包括三类：内生安全、服务安全和衍生安全。关于人工智能的内生安全，大家可能比较熟悉的问题包括其价值观问题和幻觉问题。过去一两年，主要的大模型开发公司都在集中力量解决这类问题，特别是幻觉问题。但随着基于检索增强生成等更多检索与推理方式的融合，发现人工智能的幻觉问题并未彻底消失，反而可能变得更加隐蔽。
●蚂蚁国际张天翼
他举一个在春节期间使用某大模型的例子，“当时我用它为亲戚家的小孩取名字，它非常快速地给出了许多引经据典的建议，其中三个名字是真的，两个是假的。与几年前大模型刚出现时的情况不同，以前的幻觉问题一眼就能识破，比如它声称某诗是杜甫或李白写的，这是明显错误。但现在它使用非常冷门的诗人和作品，编造了几句诗，还保持了风格的一致性，并且同时进行连锁推理和自证。如果是显而易见的错误，它会在自证过程中被排除出去。因此，如果说几年前人工智能的幻觉显得笨拙，现在它的幻觉则变得更加狡猾。”
第二类是与智能体相关的风险。随着人工智能的涌现及跃升，它被应用于越来越多的场合。但在此过程中，也出现了更多预料中或预料外的风险。其中隐私是大家非常关注的问题，既看到在训练过程中隐私数据可能被提取出来的情况，也发现了有针对性的攻击。
生成技术衍生欺诈危机
第三部分是衍生安全，即利用生成式人工智能（AIGC）的能力，生成出大家已广泛看到的图像、视频生成等功能。在这方面，已在反欺诈领域看到了非常现实的危害。例如之前担心的问题—比如批量生成伪造的身份证，用来篡改或冒认身份—在金融实践中已经发生了大量案例。这意味着人工智能门坎的降低、成本的降低及其可达性的增强，确实大大增加了这些风险。
“以AI对抗AI”提升防御
张天翼又表示，蚂蚁集团过去几年内开发的，针对这些人工智能应用安全问题的应对措施，总体来看，集团从攻击与防御两个方面进行了强化。首先，所谓“攻击”是指希望模拟人工智能，通过“以AI对抗A”（AI against AI）的思路，提升其评测能力，发现可能的风险所在。然后利用人工智能能力提升其自身的防御技术，包括上述提到的内生安全、衍生安全和服务安全。
责编：陈楚发
請先登錄再提交評論