
Sign up to save your podcasts
Or


O episódio de hoje como o AWS Step Functions Distributed Map aprimora a orquestração de fluxos de trabalho de processamento de Big Data, particularmente para conjuntos de dados semiestruturados como arquivos Parquet e manifestos do Amazon Athena. Essa nova funcionalidade simplifica a transformação de dados, permitindo a execução de milhares de iterações concorrentes (chamadas de execuções de fluxo de trabalho filho) em paralelo, o que é crucial para cargas de trabalho como simulações financeiras e gerenciamento de riscos. O texto fornece um exemplo prático de caso de uso, demonstrando como construir um aplicativo para processar dados de sensores IoT, detectar anomalias e transmitir os resultados usando o Amazon Kinesis Data Firehose. Além disso, a atualização introduz novas métricas do Amazon CloudWatch—como Approximate Open Map Runs Count e Approximate Map Runs Backlog Size—para aumentar a visibilidade e a observabilidade do desempenho do fluxo de trabalho.
Link para o blog post: https://aws.amazon.com/pt/blogs/aws-brasil/orquestrando-processamento-de-big-data-com-aws-step-functions-distributed-map/
By Daniel AbibO episódio de hoje como o AWS Step Functions Distributed Map aprimora a orquestração de fluxos de trabalho de processamento de Big Data, particularmente para conjuntos de dados semiestruturados como arquivos Parquet e manifestos do Amazon Athena. Essa nova funcionalidade simplifica a transformação de dados, permitindo a execução de milhares de iterações concorrentes (chamadas de execuções de fluxo de trabalho filho) em paralelo, o que é crucial para cargas de trabalho como simulações financeiras e gerenciamento de riscos. O texto fornece um exemplo prático de caso de uso, demonstrando como construir um aplicativo para processar dados de sensores IoT, detectar anomalias e transmitir os resultados usando o Amazon Kinesis Data Firehose. Além disso, a atualização introduz novas métricas do Amazon CloudWatch—como Approximate Open Map Runs Count e Approximate Map Runs Backlog Size—para aumentar a visibilidade e a observabilidade do desempenho do fluxo de trabalho.
Link para o blog post: https://aws.amazon.com/pt/blogs/aws-brasil/orquestrando-processamento-de-big-data-com-aws-step-functions-distributed-map/