数据入湖日期
数据入湖日期是指将数据导入到数据湖中的过程。数据湖是一个集中存储和管理大量数据的仓库，可以帮助企业更好地分析和利用数据。数据入湖日期是数据湖建设过程中的一个重要环节，它涉及到数据的收集、清洗、转换、加载等多个步骤。
在数据入湖日期中，需要考虑数据的来源、格式、质量等因素，以确保数据的准确性和完整性。同时，数据入湖日期也需要考虑数据湖的性能和扩展性，以支持大量数据的存储和查询。
腾讯云提供了多种产品和服务来支持数据入湖日期，包括云服务器、数据库、存储、大数据、人工智能等。腾讯云的产品和服务可以帮助企业快速、稳定地将数据导入到数据湖中，并提供了丰富的数据处理和分析工具，帮助企业更好地利用数据。
推荐的腾讯云相关产品和产品介绍链接地址：
- 云服务器：https://cloud.tencent.com/product/cvm
- 数据库：https://cloud.tencent.com/product/cdb
- 存储：https://cloud.tencent.com/product/cos
- 大数据：https://cloud.tencent.com/product/bigdata
- 人工智能：https://cloud.tencent.com/product/ai
数据入湖日期是数据湖建设过程中的重要环节之一，需要企业在建设数据湖时仔细考虑和规划。腾讯云提供了多种产品和服务来支持数据入湖日期，并提供了丰富的数据处理和分析工具，帮助企业更好地利用数据。
相关·内容
2回答
我有以下问题。我需要从ADLS(Azure数据湖存储)源复制到接收器ADLS，但只复制最新的文件。每小时，到达源的一个.csv文件，这个文件必须被复制到宿数据湖。例如：
event: Hour1 - file_01.csv到达源。任务:复制file_01.csv以接收数据湖。event: Hour2 - file_02.csv到达源。任务:复制file_02.csv以接收数据湖。诸若此类。
有没有办法创建一个基于事件的触发器(新文件到达源代码)？这是我的第一个想法。
另一种方法是创建一个作业，由Azure Data lake analytics运行。在那里我会提取系统的日期和时间(我不知道怎么
浏览 2提问于2018-04-23得票数 0
2回答
将数据池与已删除的记录同步
、、、、
我正在建设的数据湖，以集成多个数据源的高级分析。
在开始时，我选择HDFS作为数据湖存储。但是我有一个更新和删除数据源的要求，我必须与数据湖同步。
要理解Data的不可变性质，我将考虑数据源中的LastModifiedDate，以检测该记录是否已更新，并将该记录插入数据湖中具有当前日期。这样做的目的是用最大值(日期)选择记录。
但是，我无法理解
我将检测删除的记录从来源和我将做什么与数据湖？
我应该使用诸如Cassandra之类的其他数据存储并执行delete命令吗？恐怕它会失去不可改变的财产。
你能建议我在这种情况下的良好做法吗？
浏览 2提问于2018-04-06得票数 1
1回答
复制活动后继续在数据湖中进行分批
、、、、
我一直在使用Azure数据工厂(polybase)中的复制数据功能将日期复制到Synapse中，并启用了分阶段功能，以便在我们的蔚蓝数据湖中分阶段处理数据。但是，一旦复制到Synapse完成，我们的天蓝色数据湖中的暂存文件就会被删除。
在复制活动完成后，是否有任何方法将暂存的文件保存在数据湖中，而不是删除？
浏览 4提问于2022-04-11得票数 0
我将从基于SAP HANA的OLTP源数据带到微软基于azure的数据湖，使用azure adf和数据块。在基于Microsoft的数据湖中，在SAP HANA源的以下数据类型中，数据类型应该是什么：
NVARCHAR(4)
小数(9,5)
浮动
整型
日期时间
nvarchar(64)
小数(10，2)
浏览 7提问于2022-02-05得票数 0
在将整数值20081028转换为日期格式时，我编写了一个代码：
lakers<-as.Date(lakers$date, "%Y%m%d")
到目前为止，我正在将字符转换为错误。
你能帮帮我吗。我做错了什么
下面是代码错误的详细信息。
湖人$date<-as.Date.date(湖人$date，%Y%m%d“)
charToDate(x)中的错误:字符串不是标准的、明确的格式
而如果我使用R代码：
湖人队$Date=as.POSIXct.Date(湖人$Date，%Y%m%d)
然后是下面的错误。
$<-.data.frame中的错误(*tmp*，日期，值=数
浏览 2提问于2017-12-09得票数 1
有没有内置的雅典娜函数可以在查询结果中显示给定行的底层S3文件创建/修改日期？我们有一个具有许多不同文件格式的大型数据湖，很难将这些信息添加到所有这些数据湖中。
浏览 3提问于2021-07-07得票数 0
我在delta湖中有数据，每一行上都没有时间戳来确定什么时候添加/修改了该行，但我只需要在指定的日期/时间之后创建/修改行。
我想要三角洲湖数据的最新版本，但希望将变更数据提要中的"_commit_timestamp“附加到从增量湖读取的数据文件中，这样我就可以只选择在指定日期/时间之后写入的数据，而不是整个数据集。
更改数据提要将所有修改返回到一行，即插入/删除/更新，以便在每个版本中对同一行/数据有多行。
是否有一种方法可以获得每一行附加"_commit_timestamp“的最新版本？
浏览 4提问于2022-03-31得票数 0
我正在使用ADF复制活动，源代码是SQL服务器。
现在，我可能决定根据日期字段提取整个数据或增量数据--因此，当我这样做时，我将根据本专栏创建/覆盖数据湖中的文件夹。
资料来源：
col1
Col2
Col3 FilterColumn(日期)
目标湖：
例如，如果我提取了1年的数据--湖中的文件夹结构应该创建如下(基于FilterColumn)：
实体/2020/03/01/abc.csv
实体/2020/03/02/abc.csv
实体/2020/03/03/abc.csv
实体/2020/03/04/abc.csv
。。
。。
实体/2021/02/28/abc.csv
其中文件夹是基于源
浏览 3提问于2021-03-06得票数 0
回答已采纳
1回答
我试图在数据湖环境中使用时态表来跟踪随时间变化的数据。我遇到的第一个障碍是加载历史数据来为表添加种子。所有的东西都是以“现在”的方式加载的，而不是过去的情况。联机搜索我找到的唯一解决方案是关闭系统版本控制，禁用表中的时间段，更改表以确定日期，然后打开系统版本控制，并希望SQL Server允许我这样做。是否有更好的方法来强制日期时间值成为我所需要的？此外，我们正在加载昨天更新并于昨晚捕获的数据，并于今晨将数据加载到湖中。我需要使用昨天的日期作为时态表生效日期的生效日期，而不是当前的时间戳。同样的问题，我如何强制日期时间值？
浏览 0提问于2020-03-12得票数 0
2回答
如何有效地读取数据湖文件的元数据
、、、、
我想在databricks脚本中读取数据湖中文件的最后修改日期时间。如果我在从数据湖读取数据时能高效地将它作为一列阅读，它将是完美的。
谢谢您：)
UPDATE：如果您正在使用Databricks，因为Databricks运行时10.4在2022年3月18日发布，dbutils.fs.ls()命令也返回文件夹和文件的“modificationTime”：
浏览 3提问于2021-06-16得票数 0
回答已采纳
我正在尝试从AWS湖编队控制台设置一个数据集。
我按照下面的资源进行同样的操作：
但在创建db的第二步中，输入db名称并选择s3位置后，我将得到
对s3的湖形成许可不足：
我检查了我的权限，我的管理角色映射到我的帐户，允许所有(*)
有人能帮上忙吗?实际问题是什么！
浏览 0提问于2020-09-15得票数 10
我试图从azure数据湖存储区复制数据，执行一些处理，并使用azure数据工厂将其移动到同一个数据池中的另一个文件夹中。源数据按年份、月份和日期组织。我只想每天复制最新的文件并不断地替换它。我如何使用ADF来完成这个任务？我看到了关于使用片开始日期和结束日期的一些答案，但这仍然意味着给出JSON文件中的日期。如何自动更改这些日期？
浏览 0提问于2019-02-10得票数 0
1回答
Kukreja在“Apache、Delta湖和Lakehouse的数据工程”中说，Kappa体系结构没有数据湖。微软在 (见图)中提到了一家“长期商店”，但没有透露它的实际情况。它使用这些数据来“重新计算”。对我来说，这是一个数据湖。
Kappa体系结构是否使用数据湖？
浏览 10提问于2022-07-21得票数 0
回答已采纳
1回答
我试图从我的on数据湖增量加载到蔚蓝数据湖gen2。
select
ac_id,mbr_id ,act_id ,actdttm,
cretm ,rsltyid,hsid,cdag,cdcts
from df2_hs2_lakeprd_ACTV_table where cdcts > last modified date
我每天更新或添加的记录非常少。我的源表非常大。当我运行上面的查询时，ADF复制活动需要花费大量的时间来加载。我认为文件处理条件是从源表中的所有记录开始检查的，所以这需要时间。
是否有任何方式我可以查询或任何东西，并使它将直接加载更新的记录从源。此外，我的源表是按日期
浏览 4提问于2022-06-10得票数 -1
1回答
最近我发现了数据湖世界，我计划用ADL建立一个数据湖。我不确定的一件事是数据湖应该如何跟踪随时间变化/处理与源不同版本的更改。
我遇到过这样的站点，声称数据湖按原样提供数据，其他状态是数据应该是时间戳，或者文件夹结构应该反映时间戳。
不管怎样，有什么最佳做法吗？
干杯!
浏览 0提问于2019-07-24得票数 0
回答已采纳
我拥有一个由datetime嵌套文件夹划分数据的蔚蓝数据湖gen2。
我想向我的团队提供增量湖格式，但是我不确定我是否应该创建一个新的存储帐户，将数据复制成增量格式，或者将当前的蔚蓝数据湖转换为增量湖格式是否是最佳实践。
有人能提供关于这件事的任何建议吗？
浏览 2提问于2022-08-09得票数 0
回答已采纳
我目前正在使用数据工厂将实体从Dynamics 365批量复制到Azure数据湖。实体每24小时保存为数据湖中的CSV文件。 我希望将实体截断为新数据，并附加到数据湖中已经存在的文件中，而不是批量复制。 我认为这是SQL数据库的常见操作，但这可以在Dynamics 365和数据湖之间完成吗？
浏览 14提问于2019-05-01得票数 1
1回答
我正在使用Oracle SQL查询将我们的数据湖中的一些数据源化到我们的商业智能工具中。现在我想添加模型运行日期( date -time) /system date，以获取每次刷新的最新日期。但是怎么做呢？您是否要在每一行中添加一列日期？或者整个列只有一个值/行？这对我来说也是可行的。 如果是这样的话，是怎么做的？当前sql查询如下所示 "SELECT * FROM DBA.MasterData WHERE Article LIKE '%IKL%'
浏览 13提问于2020-10-29得票数 0
2回答
我是这个Azure数据湖世界的新手。我正在寻找任何必要的先决条件和注意事项，以便使用蔚蓝数据湖.我找到了一个很好的链接，并发现安静有用。
现在，我不确定的一件事是数据保持策略在数据湖中。有些人说数据不应该从数据湖中删除/清除，而很少有人有不同的看法。
因此，在任何数据湖中，对于数据保留策略(归档、清除)，我们是否需要遵循特定和基本的考虑？我知道用例将是这方面的决定因素，但在作出决定之前，是否有任何高层次的考虑因素，是我的问题。
谢谢,
浏览 1提问于2017-02-19得票数 2
回答已采纳
2回答
我试着阅读了很多关于databricks delta lake的资料。据我所知，它为您的数据存储增加了ACID事务，并通过增量引擎提高了查询性能。如果是这样，为什么我们还需要其他不支持ACID事务的数据湖呢？Delta lakes声称将数据湖和数据仓库这两个世界结合在一起，我们知道，由于它目前对操作的支持，它还不能取代传统的数据仓库。但它应该取代数据湖吗？为什么需要两份数据副本-一份在数据湖中，另一份在德尔塔湖中？
浏览 21提问于2020-07-30得票数 0
回答已采纳
2回答
我们在Hadoop文件系统中创建了一个新的数据湖。数据以ORC的形式存储。目前分析系统直接连接到数据湖来读取这些ORC文件。
有没有办法在数据湖和分析系统之间创建一个中间层来服务数据？
浏览 16提问于2018-10-04得票数 0
7回答
我听说了数据湖这个新名词。我在谷歌上查到了
数据湖是一个大规模的存储库和处理引擎.数据池提供“任何类型的数据的大量存储、巨大的处理能力和处理几乎无限并发任务或作业的能力”。
术语数据湖通常与面向Hadoop的对象存储相关联。在这种情况下，组织的数据首先加载到Hadoop平台，然后将业务分析和数据挖掘工具应用于其驻留在Hadoop的商品计算机集群节点上的数据。
Hadoop也做了同样的事情。我们有存储的HDFS和用于计算的MapReduce。我对Hadoop和数据湖有点困惑。两者之间的区别是什么。如果它们是相同的，为什么会出现这个词。或者如何定义数据湖。
浏览 8提问于2016-03-14得票数 16
我在Azure数据湖存储中有一个.csv文件，每当.csv文件加载到数据湖存储中时，我是否可以使用函数应用来触发Azure数据工厂(ADF)事件。当前的ADF支持blob存储的事件，但不支持数据湖。 谢谢，拉维
浏览 12提问于2019-05-25得票数 0
2回答
列名映射错误。
、、、、
我试图使用azure数据工厂从on数据湖中提取/加载数据到蔚蓝数据湖。
我只是想查询一下所有的列。我的水槽是蔚蓝数据湖Gen2。
但是我的列名在源和库上都是错误的。
我在on-prem数据湖中的列名类似于user_id、lst_nm等，但在Azure中，它就像、等，这里的user_tbl是我的表名。
我不希望将表名添加到列中。
浏览 14提问于2022-02-23得票数 0
我正在移动数据到Azure数据湖存储和处理它使用Azure数据湖分析。数据是XML格式的，我正在通过读取它。现在，我想从Azure中访问这些数据，看起来Azure数据湖存储目前还不受直接支持。
用Azure ML使用Azure的可能方法是什么？
浏览 2提问于2016-03-21得票数 0
回答已采纳
1回答
在Azure环境中，我们使用的是有50列和几百万行的Delta湖表。在过去的一个月中，我们更新了几行，但没有在表中可用的"Updatedate“列中维护该值。现在，我们必须用行更新的日期更新列。当从delta表日志更新行时，我们是否有更好的方法来捕获日期时间。Delta表是否维护每一行的更改数据捕获(CDC)。
浏览 5提问于2022-05-18得票数 1
我将数据上传到Azure Databricks，可以看到DBFS列表中有数据集，但在Databricks所属的资源组中找不到任何数据集。
数据集存储在哪里？
此外，如果我创建达美湖，如何从Azure数据工厂调用Delta湖？我看不出三角洲湖存放在哪里。
浏览 11提问于2022-04-14得票数 0
回答已采纳
我正在使用flink从Azure数据湖中读取数据。但flink无法找到Azure数据湖文件系统。我已经实现了spark来读取Azure Data Lake文件系统文件。
因此，我尝试从flink中触发火花，从Azure数据湖中读取数据，并执行一些逻辑操作，然后将列表返回给flink。所以flink可以使用这些数据？
是否可以从flink触发spark作业？或者如何配置flink来理解Azure数据湖文件系统。有人能在这方面给我指点一下吗？
浏览 2提问于2017-07-11得票数 0
1回答
目前，在我的组织中，我们持有弹性搜索中的半结构化数据，我们使用查询进行快速文本搜索和聚合，但是我们有其他产品在其他数据库中，所以我们希望将所有的数据放在像HDFS这样的数据湖中。
因此，如果我使用HDFS作为一个数据湖来保存原始数据，那么如何使用弹性搜索呢？我指的是在使用之前的弹性搜索索引数据，那么是否可以将数据保存在数据湖中，然后弹性搜索就可以直接从数据湖查询数据，而不需要将数据存储在弹性中？或者我会把数据保存在数据湖中，然后处理它，然后再用弹性存储它，这样它就可以索引它了吗？
总之，我想知道弹性和hadoop干涉的概念。
浏览 3提问于2022-11-21得票数 0
1回答
我一直困惑着是要创建一个数据湖还是一个数据仓库，希望一些有经验的现实世界的专业人士能给我一些启示。
我想用我从多个来源(IoT设备、API等)摄取的数据来存储、可视化和执行机器学习。我读到，在我们所处的当前环境中，企业将同时需要数据湖和数据仓库。
我的问题是：
我是否应该先创建一个数据湖，然后从湖中转换/处理这些原始数据，并将其摄取到数据仓库中？
还是数据湖本身是一个独立的数据处理管道？
还是这取决于用例？
这就是我一直在想的：
📷
PS:如果这是错误的StackExchange，请告诉我，谢谢:)
浏览 0提问于2022-05-13得票数 2
回答已采纳
在许多数据湖中，我看到数据是按年、月、日划分的，例如：
year=2019 / month=05 / day=15
与按日期进行分区相比，这样做有什么好处？例如：
date=20190515
我能想到的唯一优势是，例如，分析人员希望查询特定月份/年的所有数据。如果只是按日期进行分区，则必须在分区键上编写带有计算的查询，如下面的psuedocode所示：
SELECT * FROM myTable WHERE LEFT(date,4) = 2019
星星之火是否仍能对上述查询进行分区剪枝？对于更嵌套的分区结构，还有什么其他的优点我没有考虑过吗？
谢谢
浏览 1提问于2022-01-17得票数 5
回答已采纳
Azure Data中是否有任何方法可以从Azure date获得第一个修改日期。文件名可以是任何东西。我需要在数据湖主题中上传的第一个文件的最后修改日期。
例如：
+----------+------------------+
| Filename | LastModifiedDate |
+----------+------------------+
| File1 | 2021-10-01 |
| File2 | 2021-10-02 |
| File1 | 2021-10-03 |
+----------+-------------
浏览 2提问于2021-10-26得票数 0
回答已采纳
2回答
我正在探索Azure数据湖，我是这个领域的新手。我探索了很多东西，读了很多文章。基本上，我必须从不同来源的数据开发Power仪表板。
在典型的Server栈中，我可以编写一个ETL (提取、转换、加载)进程，将我的系统数据库中的数据导入数据仓库数据库。然后利用SSAS等技术，利用Power实现数据仓库。
但是我想使用Azure数据湖，我探索了Azure和Azure ( use )。我绘制了如下的架构图。
在当前的申请流程中，我遗漏了什么东西吗？
我可以使用Power直接从Azure数据湖获取数据，因此不需要数据仓库。我说的对吗？
我可以在Azure数据湖创建一个数据库，那
浏览 1提问于2018-03-15得票数 3
回答已采纳
我编写了控制台应用程序来监控/分析Azure数据湖存储中的文件。我在Azure活动目录中创建了一个应用程序来访问azure资源。我遵循了给出的所有步骤，让能够访问蔚蓝数据湖存储上的应用程序。我提供了对父目录和数据湖存储的所有幼童文件夹/文件的访问权限。
现在，我可以通过我的代码访问文件。我试图通过在代码中使用DataLakeStoreFileSystemManagement Client获取USQL作业在数据湖存储中生成的文件的修改时间和过期时间。我正在使用微软提供的.NET API进行数据湖分析和数据湖存储。
我正在为我提供访问的文件获取所有这些信息。但是，当usql作业在蔚蓝数据湖存储中添
浏览 1提问于2018-01-30得票数 0
2回答
有没有一种方法可以让我从流分析输出到数据湖，并使用aad应用程序或其他东西，而不是我的帐户，用于写入到数据湖？让用户作为数据湖的写入者是不切实际的。
浏览 3提问于2018-06-19得票数 0
1回答
我用C#编写了一个Azure函数，它递归地通过数据湖生成一个文件，其中包含数据蛋糕中所有文件和文件夹的元数据(文件名、路径、大小、修改日期等)。
这需要很长时间，因为我们有很多文件和饲料。所以我想知道是否有一个元数据存储可以直接从这个数据中提取出来？我想到了类似Server中的sys表。
提前感谢！
浏览 0提问于2018-03-12得票数 0
回答已采纳
我是Azure数据湖的新手。 下面的屏幕截图有2个文件夹(Storage Account和Catalog)，一个用于Datalake分析和其他数据湖存储。 我的问题是，为什么每个文件夹的目的是什么，为什么我们使用U-SQL进行转换，而这可以在数据工厂中完成。 请解释从数据存储到数据湖的数据流过程。 enter image description here 谢谢你，艾迪
浏览 18提问于2019-02-15得票数 0
Azure数据湖是我的数据源。我想将数据从azure数据湖推送到Azure分析服务(SSAS)。我怎么能做到这一点？
浏览 1提问于2016-12-02得票数 1
我正以IoT文件的形式将JSON遥测数据从我们的Gen2集线器发送到Azure数据湖Gen2。然后，我在池中创建了一个视图，可以连接到该视图并查询报表数据。
CREATE VIEW DeviceTelemetryView
AS SELECT * FROM
OPENROWSET(
BULK 'https://test123.dfs.core.windows.net/devicetelemetry/*/*/*/*/*/',
FORMAT = 'PARQUET'
) AS [result]
这就是我的视图数据的样子：
浏览 1提问于2021-12-03得票数 0
我正在寻找一种方法来获取关于数据湖中存储的所有数据的总体大小的数据(蔚蓝数据湖gen2 2- adls2)。是否有人知道如何获取有关数据湖大小(存储了多少数据)的此类信息？试图找到合适的API，但到目前为止没有找到任何东西。会感谢你的任何建议。
浏览 2提问于2019-10-13得票数 1
回答已采纳
是将数据从Synapse加载到三角洲湖的最佳方法。我们创建了数据流，以便将数据从突触复制到增量文件，因此这里启用了“启用暂存”选项。但启用此选项后，来自突触的所有日期字段将转换为接收器中的时间戳。如果我们删除“启用暂存”选项，管道执行将花费近2个小时--其他明智的半小时。3.我们为所有表设计了通用管道，因此我们是否可以选择根据输入参数在运行时转换日期字段的时间戳。
如果你有什么想法，请给我建议？
浏览 0提问于2021-11-03得票数 0
2回答
我一直在为客户建立数据湖，在那里我们将数据从onprem或任何其他来源加载到S3 (一个数据湖)中。我们将在这些原始数据上创建一个AWS Glue目录来创建模式。
下一步是使用EMR或AWS Glue进行数据清理，将转换后的数据加载到RDS / REDSHIFT / S3中作为最终目标。
根据使用的用例/服务，可以使用数据管道、Glue Jobs或AWS Lambda事件触发器来调度作业。
分析人员、其他用户将使用IAM服务提供所需的数据/ S3桶访问，用于Quicksight可视化或使用雅典娜、data等进行数据查询，或在Sagemaker中为ML应用程序使用数据。
我的问题是，AWS湖的形
浏览 0提问于2019-08-20得票数 3
我喜欢创建web应用程序来上传文件，保存到azure数据湖，读/写到azure SQL Server。
我使用我的Azure AD客户端I/密钥访问数据湖，
我的Azure SQL Server连接字符串，如: Server=tcp:{MyAzureSQLServer}.database.windows.net,1433;Initial目录{MyAzureDatabase}；持久化安全Info=False;MultipleActiveResultSets=False;Encrypt=True;TrustServerCertificate=False;Authentication="Ac
浏览 4提问于2019-01-18得票数 0
1回答
数据湖如何存储数据和格式？
、、、、
我听说数据湖可以存储任何类型的数据:关系型，NoSql，图片/图像，Adobe，Excel。如何以无SQL格式或二叉树存储数据？还是把它像普通硬盘一样保存？如果是这样的话，他们为什么不直接称之为存储，而不是数据湖呢？我正在试图找到“数据湖”的确切存储机制。
浏览 0提问于2018-09-09得票数 2
回答已采纳
1回答
我有一个要求分类的PII和非PII数据从Azure数据湖发电1文件。由于我不想复制数据湖中的物理文件创建，我们是否可以在数据湖中创建逻辑视图，最好与物化视图相比较。
更好的技术-天青同步分析/数据库/ VM与火花过程，.
此外，该技术易于与RBAC的Active Directory集成。
告诉我可能性。
浏览 4提问于2020-09-11得票数 0
回答已采纳
2回答
(Azure)数据湖的元数据管理
、、、、
据我所知，数据湖解决方案用于存储从原始格式的原始数据到经过处理的数据。不过，我还不能理解(Azure)数据湖中的元数据管理的概念。在数据湖中处理元数据的最佳实践是什么？
是否有任何自动读取元数据的机制(例如，从头文件中读取)，如果有，是否有任何方法来查看和编辑此元数据(可能是编程实现的API )？我担心，如果没有适当的管理，“湖”只会变成“数据坟墓”。一种解决方案可能是创建一个自己的数据库，我自己在其中存储每个文件的元数据。还有其他更先进的方法吗？
浏览 4提问于2017-03-27得票数 3
目前，我正在尝试从我的web应用程序中的数据湖分析中调用我的U作业。为此，我使用了正式的.net sdk。我授权由另一个网页应用程序，被放置在蔚蓝活跃目录，并有权访问数据湖文件(这在我的应用程序也很完美)，并有读取权利的数据湖分析资源组。我只是在尝试一些来自互联网的选项(在这两个服务上打开防火墙，检查我是否在数据湖分析中有数据湖存储的az数据源)，但这不是工作:/那么，也许还有其他的工作来解决我的问题呢？或者我应该使用另一种方式在中授权我并执行我的use工作？
下面是我在visual studio中的错误消息：
附加信息:用户没有执行此操作的权限.
浏览 3提问于2017-07-10得票数 0
回答已采纳
我正在从事一个数据湖项目，我使用(编写pyspark代码)用于ETL，使用Azure DevOps用于CICD和源代码管理。我注意到了Devops中的测试计划:我的查询是，我可以使用测试计划进行数据湖测试吗？我浏览过与网络浏览相关的测试计划，但没有发现任何与数据湖、数据库或数据仓库相关的计划。
浏览 3提问于2020-01-19得票数 0
2回答
我在数据湖中有几个文件夹(例如:Test1 1容器)，每个月都以这种格式创建YYYY(示例:2022-11)，而在这个文件夹中，我没有几组数据文件，我希望将这些数据文件复制到数据湖中的不同文件夹中。
在接下来的一个月中，在同一个数据湖(例如:Test1 1容器)中创建新文件夹，其中包含2022-12，列表继续，2023-01.等等，我想每个月将这些文件夹中的文件复制到不同的数据湖文件夹中。
如何做到这一点？
浏览 8提问于2022-11-28得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储活动推荐
腾讯云开发者
