OTF Talk 第7回は、AWS Glue プロダクトチームの関山 宜孝さんをゲストに、OTFのユースケースである、個人情報保護対応のためのデータ更新・削除についてお話をうかがいました。

※今回は録音環境に問題があったため、ゲストの声が聴きづらくなっています。

OTF Talk は、OTF = Open Table Format の技術的な解説や最新トピック等を、ゲストをむかえてお話をうかがうPodcastです。

個人情報を消したい・マスクしたいというニーズ/なぜ実現困難だったのか/OTF でどう実現できるのか/削除とトランザクション/本当に消す必要があるのか/事例

guest： @moomindani (関山 宜孝)

AWS Glue product team 所属の Principal Big Data Architect

host: @simosako (下佐粉 昭)

AWSのソリューションアーキテクト。 専門はデータレイク 、データウェアハウス。

※感想は #OTFTalk でポストいただけると励みになります。

※発言は各個人のものであり、所属組織を代表するものではありません。

参考文献)

Iceberg のChangelog View解説（べりんぐさんのブログ）

https://bering.hatenadiary.com/entry/2024/03/31/150946

OSSのCDCツール Debezium https://debezium.io/

データベースをCDCでApache Icebergに反映するサンプル構成 (AWS Blog)

https://aws.amazon.com/jp/blogs/big-data/implement-a-cdc-based-upsert-in-a-data-lake-using-apache-iceberg-and-aws-glue/

メダリオンアーキテクチャ (databricks)

https://www.databricks.com/jp/glossary/medallion-architecture

EUの一般データ保護規則(GDPR) https://www.ppc.go.jp/enforcement/infoprovision/EU/

日本の改正個人情報保護法 https://www.ppc.go.jp/news/kaiseihou_feature/

Yahoo! Japan 事例 「Apache Hudi を用いてレコード単位で削除可能なデータレイクを構築した話」

https://techblog.yahoo.co.jp/entry/2022052530303179/