数据生成技术有哪些?常见的3种数据生成技术

发布:2022-10-09 15:00:44
阅读:5226
作者:网络整理
分享:复制链接

决策树、深度学习技术和迭代比例拟合来执行数据合成过程。根据合成数据的要求和数据生成特定目的来选择数据生成的方法。

常见的3种数据生成技术

1、按分布生成

对于不存在真实数据但数据分析师全面了解数据集分布的情况,分析师可以生成任何分布的随机样本,例如正态、指数、卡方、对数正态和均匀分布。

在这种技术中,合成数据的效用取决于分析师对特定数据环境的了解程度。

2、将真实数据拟合到已知分布

如果有真实数据,那么可以通过给定真实数据的最佳拟合分布来生成合成数据。将真实数据拟合到已知分布中并且知道分布参数,则可以使用蒙特卡罗方法来生成合成数据。

尽管蒙特卡洛方法可以帮助找到可用的最佳拟合,但最佳拟合可能没有足够好的实用性来满足合成数据需求。

对于这些情况,可以考虑使用机器学习模型来拟合分布。决策树等机器学习模型允许对非经典分布进行建模,这些分布可以是多模态的,不包含已知分布的共同特征。

通过这种机器学习拟合分布,可以生成与原始数据高度相关的合成数据。但是,机器学习模型存在过度拟合的风险。

对于仅存在部分真实数据的情况,还可以使用混合合成数据生成。在这种情况下,分析师根据理论分布生成数据集的一部分,并根据真实数据生成其他部分。

3、使用深度学习

变分自动编码器(VAE)和生成对抗网络(GAN)等深度生成模型可以生成合成数据。

变分自动编码器(VAE)是一种无监督方法,编码器将原始数据集压缩成更紧凑的结构并将数据传输到解码器。然后解码器生成一个输出,它是原始数据集的表示。通过优化输入和输出数据之间的相关性来训练系统。

生成对抗网络(GAN),在GAN模型中,生成器和判别器这两个网络迭代地训练模型。生成器采用随机样本数据并生成合成数据集。鉴别器根据之前设置的条件将综合生成的数据与真实数据集进行比较。

检验合成数据的阶段

在数据合成之后,通过将合成数据与真实数据进行比较来评估合成数据的效用。效用评估过程有两个阶段:

通用比较:比较从两个数据集测量的分布和相关系数等参数。

工作负载感知实用程序评估:通过对合成数据进行分析来比较特定用例的输出准确性。

扫码进群
微信群
免费体验AI服务