ProdOps - Produtos de ML em produção
Saiu no Youtube uma conversa que eu tive com o Christiano Milfont e o Matheus Dias sobre Cultura Data-Driven; mas o nosso papo foi muito mais sobre Machine Learning em produção.
Discutimos sobre um case no qual eu trabalhei ainda na época da MyHammer em que tivemos um prazo de 45 para entregar uma API de ML para o nosso serviço de classificação de requisições em produção utilizando NLP. Eu falei um pouco sobre a modelagem nesse post da MyHammer na época.
Pessoalmente esse case foi um orgulho danado de entregar, pois essencialmente foi um pouco menos convencional do que a maioria dos cases que vemos na internet em que temos esse tipo de fluxo de trabalho em que a ciência de dados entra como o início do fluxo:
Crédito Cloudera
A grande diferença no nosso modo de pensar foi que tratamos o nosso problema não como um problema de Ciência de Dados em que potencialmente um modelo seria colocado em produção depois de um processo científico e tudo mais; mas sim como um caso de integração de um serviço de API que entregaria um Function-as-a-Service para os times de backend e front-end.
O racional da decisão está com mais detalhes no video; mas em suma uma abordagem "API First" nos ajudou muito em entregar o modelo em produção desde o dia 1, em que isso nos deu uma segurança de que quando estivesse em produção de fato, teríamos todos os elementos para monitoramento, observabilidade e tudo mais.
Ainda vou fazer um blogpost sobre essa filosofia do ProdOps dentro da perspectiva de ML, dado que pessoalmente eu acho que a discussão da nossa industria ainda está muito concentrada em ferramentas e ML em si, e pouco em como essas tecnologias podem ser usadas em produção em larga escala.