企业IT应用趋势项目创新联盟 - twt企业IT交流平台

课题方向社区互动精选

来自主题 · 大模型时代 · 2023-10-27

演绎推理处理？

演绎推理方面，当前大模型能否处理？（假设一人在餐厅，如果他点了牛排，则一定点了沙拉，如果这个人没有点...

回答

关注3

来自主题 · 数据大集中 · 2023-09-27

证券行业如何实现全行业共建的行业大模型？

回答

关注2

来自主题 · 数据大集中 · 2023-07-24

chatpaper怎么使用更好？

回答

关注4

来自主题 · 数据大集中 · 2023-07-24

碳基和硅基如何协做，如何监管硅基生命？

回答

关注2

来自主题 · 数据大集中 · 2023-07-24

软件工程数据工程模型工程，对现有的软件工程的影响和改进？

回答

关注2

来自主题 · 数据大集中 · 2023-07-24

需要建立哪些模型和算法开发的风险管理制度，如何定期对模型进行审计？

为了保证业务的合规性和满足监管要求，需要建立哪些模型和算法开发的风险管理制度，规范技术应用，如何定期...

回答

关注1

来自主题 · 数据大集中 · 2023-07-24

如何建立智能客服评价体系，评价用户满意度和业务合规性？

大模型应用在银行客服领域可以提升效率，降低成本，如何建立智能客服评价体系，评估大模型技术下客户服务满...

回答

关注1

来自主题 · 数据大集中 · 2023-07-24

如何解决大模型的安全性和可解释性，以防范模型和算法风险？

金融行业对风险管理和安全性有很高的要求，在应用人工智能技术时，大模型具有更复杂的结构和更多的参数，因...

回答

关注2

来自主题 · 数据大集中 · 2023-07-18

大模型在银行业如何与RPA相关流程进行结合使用，发挥应有的优势？

大模型应用在银行RPA相关场景中如何结合使用，发挥自主生成优势，达到降本增效的预期目标呢...

回答

关注2

来自主题 · 数据大集中 · 2023-07-12

大语言模型应用场景？

大语言模型在银行应用场景中还可以向哪些方向扩展，是否可以结合RPA进行相关应用场景的扩展...

回答

关注3

来自主题 · 数据大集中 · 2023-07-12

金融保险的安全属性决定了其不允许使用公有云或连接任何互联网资源来训练大模型，请问如何解决这个问题？

回答

关注5

来自主题 · 数据大集中 · 2023-07-12

如何理解和看待大模型的量变和质变？

如何理解和看待大模型的量变和质变？
大模型的参数大、训练数据大，都是量大，都是量的变化。
那么，量大，导

...

回答

关注2

来自主题 · 数据大集中 · 2023-07-12

如何在金融银行保险网络隔离环境高效积约安全的训练行业大模型？

回答

关注2

来自主题 · 数据大集中 · 2023-07-12

大模型范畴是否会进一步延申？

目前，大模型都是只NLP领域的LLM，即large language model，那么大模型是否会扩...

回答

关注3

来自主题 · 数据大集中 · 2023-07-12

在大模型计算中GPU如何加速计算？

在大模型计算中GPU如何加速计算？
1）GPU如何加速后台的模型学习训练过程？
2）在模型应用过程中，G

...

回答

关注3

来自主题 · 数据大集中 · 2023-07-12

大模型整个数据流程是什么样的？

大模型整个数据流程是什么样的？
请结合下面的粗略数据流程，给出一个更加科学、合理的大模型学习、应用的全
...

回答

关注2

来自主题 · 数据大集中 · 2023-07-12

大模型与小模型的区别与联系？

大模型是否相对于小模型来说的？
大模型的“大”体现在哪儿？是指训练数据大，还是模型参数大，亦或模型层级
...

回答

关注2

来自主题 · 数据大集中 · 2023-07-12

老师介绍金融大模型大概需要1000张GPU，若GPU数量只有要求的10%左右，企业还有必要做大模型吗？

回答

关注1

来自主题 · 数据大集中 · 2023-07-12

LLM在银行集约化与专业化运营中可以分别起什么作用？

银行的客户，一般呈现2个集中，10%的客户的AUM占85%以上 90%的客户的AUM占15%不到。...

回答

关注2

来自主题 · 数据大集中 · 2023-07-12

LLM大模型构建中，训练数据如何满足行业标准。如何与现有的应用系统有机结合起来？

LLM大模型的效果取决了训练量和训练偏差，在专业性较强和通用性较强的领域如何进行满足行业要求的训练，...

回答

关注2

来自主题 · 数据大集中 · 2023-07-12

大模型下一步的发展趋势是什么？

回答

关注5

来自主题 · 数据大集中 · 2023-07-11

NEMO SERVICE如何对外提供服务？

NEMO SERVICE如何提供服务给企业应用？如何保障服务响应时效和并发？

回答

关注2

来自主题 · 数据大集中 · 2023-07-11

NEMO FRAMEWORK的组成和部署？

NEMO FRAMEWORK由几个工具组成？分别的作用和部署需要的服务器配置？

回答

关注2

来自主题 · 数据大集中 · 2023-07-11

NEMO FRAMEWORK运行的底座，私有化如何部署？

NEMO FRAMEWORK提到的底座，私有化如何部署，如何评估企业内需要投入的资源。...

回答

关注2

来自主题 · 数据大集中 · 2023-07-11

NeMo针对银行对话式场景的训练和推理，能解决哪些问题？

视频中关于NeMo这个，对我们银行对话式场景的训练，主要是用来解决哪些问题？对我们在场景训练带来什么...

回答

关注3

来自主题 · 数据大集中 · 2023-07-11

在大语言模型建设中GPU加速的必要性是什么？

回答

关注2

来自主题 · 数据大集中 · 2023-07-10

大语言模型数据训练如何对这些敏感信息进行处理？

大语言模型数据训练不可避免会接触到敏感信息，如何对这些敏感信息进行处理，当前有没有什么好的办法？如果...

回答

关注2

来自主题 · 数据大集中 · 2023-07-10

如何确定收集数据的范围？

我个人认为大语言模型的构建应该是由多个小模型组合成一个大模型，因此小模型的重点应该是数据的范围界定，...

回答

关注3

来自主题 · 数据大集中 · 2023-07-08

在金融场景的真实案例中，部署应用大模型的核心难点和卡点在哪里，各部门和团队需要如何配合解决？

回答

关注2

来自主题 · 数据大集中 · 2023-07-08

在适合的落地场景中，例如智能客服，如何落地大模型？

（1）企业训练大模型时如何准备训练数据？

（2）训练数据达到什么量级才能取得实际可用的效果？

（3）训练...

回答

关注2

来自主题 · 数据大集中 · 2023-07-08

金融业中，哪些应用场景适合大语言模型并取得了实际的落地案例？

回答

关注3

来自主题 · 数据大集中 · 2023-07-07

关于大数据模型连的情感分析问题？

1、大数据模型的里面的情感分析对金融行业后续发展的影响都有哪些方面？
2、大数据模型的里面的情感分析
...

回答

关注2

来自主题 · 数据大集中 · 2023-07-07

请介绍下ChatGLM-6B的底层算法逻辑，及如何修改model目录下的py文件，对底层神经网络进行重构？

请介绍下ChatGLM-6B的底层算法逻辑，及如何修改model目录下的py文件，对底层神经网络进行...

回答

关注2

来自主题 · 数据大集中 · 2023-07-07

金融机构如何处理大量的敏感数据，同时训练大语言模型来优化智能客服等人工智能应用时保护用户隐私？

金融机构如何处理大量的敏感数据，同时训练大语言模型来优化智能客服等人工智能应用时保护用户隐私？...

回答

关注4

来自主题 · 数据大集中 · 2023-07-06

大模型如何规避合规风险？

在使用大模型过程中存在诸如用户隐私和数据权限、知识产权/版权、消费者权益保护、捏造/失实内容、偏见信...

回答

关注2

来自主题 · 数据大集中 · 2023-07-06

银行在大模型应用场景方面应该如何抉择是否替换传统模型？

私有化部署成本和大模型能带来的效益提升如何考量？

回答

关注3

来自主题 · 数据大集中 · 2023-07-06

银行业训练大语言模型需要强大的GPU算力，英伟达高端卡现在国内可以购买吗？

回答

关注3

来自主题 · 数据大集中 · 2023-07-06

如何创建私有化LLM的数据集？

银行内部有很多地方都可以使用LLM，但是如何快速、低成本、自动化创建高质量的数据集，用于模型的训练或...

回答

关注2

来自主题 · 数据大集中 · 2023-07-05

如何保障大模型的更新和迭代，是否有相关配套流程工具及机制？

回答

关注3

来自主题 · 数据大集中 · 2023-07-05

金融企业做GPU算力资源池化，需要评估和考虑哪些方面？

金融企业做GPU算力资源池化与GPU国产替代，需要评估哪些方面？现在替代去做GPU算力资源池化，需要...

回答

关注3

来自主题 · 数据大集中 · 2023-07-05

老师介绍金融大模型大概需要1000张GPU，若GPU数量只有要求的10%左右，企业还有必要做大模型吗？

回答

关注4

来自主题 · 数据大集中 · 2023-07-05

ChatGLM-6B部署完成后，如何实现训练数据的快速、批量加载，同时，在哪些方面进行优化，让回答更加精准？

ChatGLM-6B部署完成后，如何实现训练数据的快速、批量加载，同时，在哪些方面进行优化，让回答更...

回答

关注2

来自主题 · 数据大集中 · 2023-07-05

如何利用大语言模型来优化智能客服，实现更好的客户体验和提高客户满意度？

银行业如何利用大语言模型来优化智能客服，实现更好的客户体验和提高客户满意度？在实践中，可能会遇到哪些...

回答

关注2

来自主题 · 数据大集中 · 2023-07-05

银行业在训练大语言模型时，面临着哪些数据处理方面的挑战？如何解决这些挑战？

银行业在训练大语言模型时，特别是在优化智能客服方面，面临着哪些数据处理方面的挑战？如何解决这些挑战？...

回答

关注2

来自主题 · 数据大集中 · 2023-07-05

大语言模型如何完成多轮上下文预料的信息抽取？

比如智能客服场景
需要大语言模型完成多轮上下文预料的信息抽取
再根据结果进行特定模版回答

...

回答

关注2

来自主题 · 数据大集中 · 2023-07-05

AI的训练和推理对基础架构带来了什么变革和挑战？

回答

关注5

来自主题 · 数据大集中 · 2023-07-04

开源大型神经网络模型的使用的安全隐患？

中小银行可能没有数据和人才来构建大型神经网络模型，那么开源模型拿来即用是否存在安全隐患？以及如何应对...

回答

关注1

来自主题 · 数据大集中 · 2023-06-27

中小规模券商如何拥抱大模型应用？

1.中小券商受制于自身规模所限，自建机房GPU算力资源非常有限
2.券商还存在合规方面的限制，对于从公
...

回答

关注6

来自主题 · 数据大集中 · 2023-06-27

为了高效利用GPU资源，AI训练和管理自动化，是否有这样的平台，这样的平台需要哪些组成部分？

为了高效利用GPU资源，AI训练和管理自动化，是否有这样的平台，这样的平台需要哪些组成部分？...

回答

关注3

来自主题 · 数据大集中 · 2023-06-27

如何解决算力需求大，GPU不足及隐私和安全问题等挑战？

GPU不足及隐私和安全问题等挑战

回答

关注4

来自主题 · 数据大集中 · 2023-06-27

大模型嵌入便捷聊天工具？

市场上是否有类 chatgpt 及文心一言的简单、便捷的聊天工具，核心功能包括：实时翻译、智能问答、...

回答

关注3

来自主题 · 数据大集中 · 2023-06-27

大模型通常基于历史数据进行训练，并不具备实时获取和处理新数据的能力，如何即时更新模型中的知识储备？

大模型通常基于历史数据进行训练，并不具备实时获取和处理新数据的能力，如何即时更新模型中的知识储备？ ...

回答

关注4

来自主题 · 数据大集中 · 2023-06-27

大模型应用中，因行业数据不足，如何解决行业数据搜索、标注问题，如何对接企业知识库？

大模型应用中，因行业数据不足，如何解决行业数据搜索、标注问题，如何对接企业知识库？...

回答

关注4

来自主题 · 数据大集中 · 2023-06-14

有没有研究报告分析和生成的AI接口，或是训练方法？最好有能提供的厂商？

回答

关注2

来自主题 · 数据大集中 · 2023-06-09

gpu池化产品，目前哪些厂家做的好，是否可支持智能化弹性伸缩资源？

gpu池化产品，目前哪些厂家做的好，是否可支持智能化弹性伸缩资源，无需人工介入即可根据业务实际使用而...

回答

关注2

来自主题 · 数据大集中 · 2023-06-09

国产gpu，哪家值得推荐？是否有对标A100或者A800的国产gpu卡，或者已经成熟的卡？

国产gpu，哪家值得推荐？是否有对标A100或者A800的国产gpu卡，或者已经成熟的卡？...

回答

关注2

来自主题 · 数据大集中 · 2023-06-09

大语言模型训练中，如果有自定义的知识库，是否有快速批量生成适合此大语言模型的训练集的诀窍？

大语言模型训练中，如果有自定义的知识库，是否有快速批量生成适合此大语言模型的训练集的诀窍？...

回答

关注2

来自主题 · 数据大集中 · 2023-06-09

大语言模型在市面上都推荐哪家模型呢？

回答

关注4

来自主题 · 数据大集中 · 2023-06-09

组织架构和人力资源如何保障？

AI技术需要专业人员来设计和维护。因此，银行必须确保有足够的人力资源和技术支持来使用和维护AI系统。...

回答

关注2

来自主题 · 数据大集中 · 2023-06-09

如何保障AI模型决策结果可解释？

对于银行来说，AI的可解释性是一个重要的问题。银行必须确保其AI模型的决策和结果是可以被解释的，以便...

回答

关注2

来自主题 · 数据大集中 · 2023-06-09

如何保障模型训练数据质量？

AI模型的质量和准确性取决于所使用的数据。如果数据质量低下，则可能影响AI模型的性能。因此，确保数据...

回答

关注3

来自主题 · 数据大集中 · 2023-06-09

大语言模型在银行使用如何获得训练数据？

银行掌握着大量客户信息数据，按照银行业监督管理办法，银行需要对客户信息进行保密，在这种情况下，大语言...

回答

关注2

来自主题 · 数据大集中 · 2023-06-08

大语言模型现在在企业里面有一些成熟的应用案例推荐吗？

回答

关注2

来自主题 · 人工智能 · 2023-04-18

chatgpt在金融行业的应用场景有哪些？

个人认为chatgpt在金融业落地的时间不会特别早，现在是在炒作概念时期，虽然已经有相关公司推出相应...

回答

关注4

来自主题 · · 2023-04-18

ChatGPT大语言模型时代的企业如何适用和选择？

ChatGPT大语言模型时代的企业如何适用和选择？例如落地过程中的具体挑战和企业的不适用性...

回答

关注4

来自主题 · · 2023-04-14

如何通过AI智能化提取大数据平台数据生成智能报表？

回答

关注3

来自主题 · · 2023-04-12

目前金融机构建设的大数据平台如何适配或应用大语言模型数据处理？

回答

关注3

来自主题 · · 2023-04-12

金融企业落地大语言模型有什么潜在问题？

金融企业落地大语言模型需要大量硬件投资成本吗？一般喜欢采购现有模型来调优，这样有什么需要潜在注意的。...

回答

关注6

来自主题 · · 2022-04-28

在容器云环境建设和优化GPU资源池的过程中，平台的兼容性和可靠性如何保证？

平台对硬件、基础系统软件、AI框架、AI应用、预训练模型和软件开发工具包提供兼容性和适配性保障。平台...

回答

关注4

大模型时代课题方向