最近,“上云探索实验室”活动 正在如火如荼进行,亚马逊云、“大厂”背景加持,来看看它们有什么新鲜技术/产品?
本篇带来对 shouAmazon SageMaker 的认识~
闻名不如一见
首先,开宗明义,shouAmazon SageMaker 是什么?
从官网我们可以了解到:Amazon SageMaker 是一项帮助开发人员快速构建、训练和部署机器学习 (ML) 模型的托管服务。
其实,类比于:就像咱们开发人员经常把代码部署 Github Page 上,自动构建、运行我们的代码服务。
当下,我们可以把 AIGC 领域火爆的模型共享平台 —— Hugging Face 中的模型放到 Amazon SageMaker 中去部署运行、进行微调等~
如果你还不了解 HuggingFace?那抓紧快上车!
就这张小黄脸,目前已经估值 20 亿美元,它拥有 30K+ 的模型,5K+ 的数据集,以及各式各样的 Demo,用于构建、训练最先进的 NLP (自然语言处理)模型。
是的,如果你:
1、不想关心硬件、软件和基础架构等方面的问题
2、想简化操作机器学习模型的开发流程
3、想灵活选择使用自己的算法和框架以满足不同业务需求
就可以 把目光投向 Amazon SageMaker,用它的云服务来部署你想要用的 HuggingFace 模型等~
百思不如一试
Amazon SageMaker 可以全流程的帮助我们构建机器学习模型,这样真的会省下很多心力(少掉几根头发)~
具体实践中,我们知道在数据预处理过程中,在训练模型之前,需要做一系列操作,比如:缺失值处理、数据归一化和特征选择等,Amazon SageMaker 提供了很好的预处理和转换数据的工具,助力快速完成这些工作。
在模型选择环节,Amazon SageMaker 提供多种内置的机器学习算法和框架,你可以根据数据集和任务类型选择合适的模型。
还有,提高模型性能是我们需要特别关注的,Amazon SageMaker 让你可以指定调优的目标和约束条件,系统会自动搜索最优的参数组合,这就很智能、很舒服。
模型训练完后,Amazon SageMaker 也自带易用的模型部署和监控功能;
一整套下来,训练模型感觉就像呼吸一样自然~
官网教程写的很清晰,还有很多视频讲解:# Amazon SageMaker - 入门手册
这里不赘述,仅看实战中代码表示,感受一二:
如何在Amazon SageMaker 上部署Hugging Face 模型?
1、首先,在 Amazon SageMaker 中创建一个 Notebook 实例。可以使用以下代码在 Amazon SageMaker 中创建 Notebook 实例:
import sagemaker from sagemaker
import get_execution_role
role = get_execution_role()
sess = sagemaker.Session()
# 创建 Notebook 实例
notebook_instance_name = 'YOUR_NOTEBOOK_INSTANCE_NAME'
instance_type = 'ml.t2.medium'
sagemaker_session = sagemaker.Session()
sagemaker_session.create_notebook_instance(notebook_instance_name=notebook_instance_name,instance_type=instance_type,role=role)
2、其次,下载 Hugging Face 模型,你可以使用以下代码下载 Hugging Face 模型:
!pip install transformers
from transformers import AutoTokenizer, AutoModelForSequenceClassification
# 下载 Hugging Face 模型
model_name = "distilbert-base-uncased-finetuned-sst-2-english"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
3、创建一个推理规范,以指定部署的模型。可以参照以下代码创建推理规范:
from sagemaker.predictor import Predictor
from sagemaker.serializers import JSONSerializer
from sagemaker.deserializers import JSONDeserializer
from sagemaker.tensorflow.serving import Model
# 创建推理规范
class HuggingFacePredictor(Predictor):
def __init__(self, endpoint_name, sagemaker_session):
super().__init__(endpoint_name, sagemaker_session, serializer=JSONSerializer(),
deserializer=JSONDeserializer())
model_name = "huggingface"
model_data = "s3://YOUR_S3_BUCKET/YOUR_MODEL.tar.gz"
entry_point = "inference.py"
instance_type = "ml.m5.xlarge"
role = sagemaker.get_execution_role()
model = Model(model_data=model_data,
image_uri="763104351884.dkr.ecr.us-east-1.amazonaws.com/huggingface-pytorch-inference:1.6.0-transformers4.0.0",
role=role,
predictor_cls=HuggingFacePredictor,
entry_point=entry_point)
predictor = model.deploy(initial_instance_count=1, instance_type=instance_type)
4、测试部署模型
data = {"text": "I love using Amazon SageMaker!"}
response = predictor.predict(data)
print(response)
过程就是,创建 NoteBook => 下模型 => 指定模型、设定推理脚本 => 测试部署,足够简洁~
人人都能上云,人人都能训练机器模型~
不知道大家发现没有,其实现在的编程开发都逐渐在“云”化,不仅是机器学习,普通开发也是;类似低代码平台,开发不再是一点点复制代码、拼凑代码、修改代码,更多是通过自动化平台“点点点”就能构建自己想要的服务了!拥抱“云”平台,省心又省力,也在拥抱未来~
防守不如亮剑
目前市面上同类型的产品也有一些,比如:
1、Google Cloud AI Platform:Google提供的全托管的机器学习平台,可以帮助用户构建、训练和部署机器学习模型。
2、Microsoft Azure Machine Learning:微软提供的一款全托管的机器学习平台,可以帮助用户构建、训练和部署机器学习模型。
3、IBM Watson Studio:IBM提供的一款机器学习工具和服务平台,可以帮助用户构建、训练和部署机器学习模型。此外它还提供了数据可视化、模型解释和协作等功能。
它们与Amazon SageMaker 类似,具有全托管和自动化的特点,同时提供了多种算法和框架供用户选择。但尺有所长、寸有所短,咱们不妨用表格来一眼对比它们各自的优缺点:
产品名称 | 优点 | 缺点 |
---|---|---|
Amazon SageMaker | 全托管、自动化、灵活性、配置简单 | 需掌握AWS服务的基本概念和使用方法 |
Google Cloud AI Platform | 全托管、自动化、提供多种算法和框架 | 配置较为繁琐 |
Microsoft Azure Machine Learning | 全托管、自动化、提供多种算法和框架 | 配置较为繁琐 |
IBM Watson Studio | 提供丰富的机器学习工具和服务平台、提供数据可视化、模型解释和协作等功能 | 价格高、配置较为繁琐 |
可以看到,Amazon SageMaker 的配置更简单;
至于谈到:“需掌握 AWS 服务”,其实它也好上手,类比于阿里云,AWS 是亚马逊云服务,全球顶流、百万客户、加速敏捷,即使不用来开发机器模型,也建议体验、上手其它云服务产品~具体参见aws.amazon.com
活动福利环节
刚好,最近正在进行“上云探索实验室”活动;6月27-28日亚马逊云科技中国峰会上海现场,展区5楼【开发者会客厅】有互动活动:
现场为开发者提供了部分 Amazon codewhisperer 账号,开发者可以到现场直接进行代码体验,参与体验问卷回复可获得社区定制周边礼品一份。
同时开发者也可于现场进行专业版账号注册,完成注册即可获得定制周边礼品一份或免费 Serverlesspresso 咖啡券一张。
欢迎大家注册~~
话不多少,先冲为敬~
OK,以上便是本次分享,希望各位喜欢~ 欢迎点赞、收藏、评论 🤟
我是安东尼 🤠 人气技术博主 💥 坚持千日更文 ✍ 关注我,安东尼陪你一起度过漫长编程岁月 🌏
微信 ATAR53,拉你入群,不定期抽奖、只学习交友、不推文卖课~