本文更新了Converse API的使用，从原来的invoke_model的API更换为Converse API。
本文介绍了Amazon Bedrock服务的初始化，如何开始使用Claude模型，并讲解了最新的Converse API的使用，实现文本生成、图像理解、文档理解、流式输出等场景。
Continue reading “Amazon Bedrock上的Anthropic Claude开箱及Converse API使用”Month: January 2024
查询IMDS即EC2 Metadata V2中的信息
一、背景
EC2在169.254.169.254的IP地址上提供了HTTP服务，可查询包括AWS账户ID、本机Region、所属AZ、机型、EC2 Instance ID、Userdata脚本、绑定的IAM Role等众多信息。这个服务被称为Instance Metadata Service，简称IMDS。
Continue reading “查询IMDS即EC2 Metadata V2中的信息”使用CodeWhisperer代码提示和补全提升开发效率
一、CodeWhisperer简介
Amazon CodeWhisperer是一款辅助开发的代码生成服务，可根据进行代码生成、代码补全、代码审查等。Amazon CodeWhisperer支持多种编程语言，包括Python、Java、JavaScript、TypeScript、C#、Go、Rust、PHP、Ruby、Kotlin、C、C++、Shell 脚本、SQL、Scala、JSON、YAML和HCL等。
目前，CodeWhisperer支持的IDE包括VS Code、IntelliJ IDEA、Visual Studio、PyCharm、WebStorm和Rider等。此外，CodeWhisperer还支持MacOS下的终端/Iterm2用于CLI交互。您可以使用这些IDE的插件/扩展连接到CodeWhisperer，并享受便捷的开发效率。
Continue reading “使用CodeWhisperer代码提示和补全提升开发效率”使用Workmail搭建海外企业邮件服务器
目录
- 一、背景
- 二、自有域名和解析要求
- 三、创建Workmail邮箱
- 四、创建用户并使用企业邮箱发送和接收
- 五、参考文档
EKS使用预加载机制加速EC2 Nodegroup上大镜像的启动速度
EKS动手实验合集请参考这里。
目录
- 一、背景
- 二、测试环境准备
- 三、应用Yaml是否打开缓存开关的对比
- 四、使用EventBridge构建预加载
- 五、验证预缓存机制生效
- 六、参考文档
一、背景
在机器学习等场景下，需要在EKS上运行较大体积的Pod，其Image体积可能达到数个GB。此时在第一次启动Pod时候，会遇到所谓的冷启动问题，也就是EC2 Nodegroup需要从ECR容器镜像仓库去拉取较大尺寸的镜像，然后才能启动Pod。后续启动相同镜像即可利用缓存无须重复下载。此时，可以使用本文介绍的方法优化冷启动时间长。
Continue reading “EKS使用预加载机制加速EC2 Nodegroup上大镜像的启动速度”