spark中使用flatmap报错：TypeError: ‘int‘ object is not subscriptable-Toy模板网

这篇具有很好参考价值的文章主要介绍了spark中使用flatmap报错：TypeError: ‘int‘ object is not subscriptable。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

1、背景描述

菜鸟笔者在运行下面代码时发生了报错：

from pyspark import SparkContext

sc = SparkContext("local", "apple1012")

rdd = sc.parallelize([[1, 2], 3, [7, 5, 6]])

rdd1 = rdd.flatMap(lambda x: x)
print(rdd1.collect())

报错描述如下：
int' object is not subscriptable,spark,javascript,前端

2、报错原因

显然这是传入的数据类型发生了错误：

因为我们试图对整数对象执行下标操作，而这是不允许的。

原来flatMap底层通过取下标来展开元素如果rdd集合里面有非可迭代对象（如int元素）则会报错TypeError: 'int' object is not subscriptable。

查看flatmap算子源码我们知道，传入的参数被要求是一个可迭代对象，那么rdd集合中有int元素报错也就不奇怪了。

3、解决方案

解决方法如下：
我们可以在映射函数内部处理这种情况。例如，如果要返回单个元素，可以将其放入一个列表中，以确保总是返回一个可迭代对象。

from pyspark import SparkContext

sc = SparkContext("local", "apple1012")

rdd = sc.parallelize([[1, 2], 3, [7, 5, 6]])

# flatMap底层通过取下标来展开元素 如果rdd集合里面有非可迭代对象（如int元素）则会报错TypeError: 'int' object is not subscriptable


def my_flatmap(x):
    if isinstance(x, int):
        # 如果是整数，将其放入一个列表中
        return [x]
    else:
        # 如果不是整数，直接返回可迭代对象
        return x


rdd1 = rdd.flatMap(my_flatmap)
print(rdd1.collect())

修改代码后我们运行程序，完美执行：

int' object is not subscriptable,spark,javascript,前端文章来源地址https://www.toymoban.com/news/detail-767327.html