Hướng dẫn pandas function in python - chức năng gấu trúc trong python

Pandas là một thư viện Python cung cấp các cấu trúc dữ liệu nhanh, mạnh mẽ, linh hoạt và mang hàm ý. Tên thư viện được bắt nguồn từ panel data (bảng dữ liệu). Pandas được thiết kế để làm việc dễ dàng và trực quan với dữ liệu có cấu trúc (dạng bảng, đa chiều, có tiềm năng không đồng nhất) và dữ liệu chuỗi thời gian.

Mục tiêu của pandas là trở thành khối căn bản (building block) cấp cao cơ bản cho công việc thực tế, phân tích dữ liệu thế giới thực trong Python, và rộng hơn là trở thành công cụ thao tác / phân tích mã nguồn mở mạnh mẽ và linh hoạt nhất có sẵn trong bất kỳ loại ngôn ngữ lập trình nào.khối căn bản (building block) cấp cao cơ bản cho công việc thực tế, phân tích dữ liệu thế giới thực trong Python, và rộng hơn là trở thành công cụ thao tác / phân tích mã nguồn mở mạnh mẽ và linh hoạt nhất có sẵn trong bất kỳ loại ngôn ngữ lập trình nào.

Vì sao bạn nên chọn pandas?

Pandas rất phù hợp với nhiều loại dữ liệu khác nhau:

• Dữ liệu dạng bảng với các cột được nhập không đồng nhất, như trong bảng SQL hoặc bảng tính Excel.
• Dữ liệu chuỗi thời gian theo thứ tự và không có thứ tự (không nhất thiết phải có tần số cố định).
• Dữ liệu ma trận tùy ý (được nhập đồng nhất hoặc không đồng nhất) với nhãn hàng và cột.
• Bất kỳ hình thức khác của các bộ dữ liệu quan sát / thống kê. Dữ liệu thực sự không cần phải được dán nhãn vào cấu trúc dữ liệu pandas.
• Pandas được xây dựng dựa trên NumPy. Hai cấu trúc dữ liệu chính của pandas là Series (1 chiều) và DataFrame (2 chiều) xử lý được phần lớn các trường hợp điển hình trong tài chính, thống kê, khoa học xã hội và nhiều lĩnh vực kỹ thuật.Series (1 chiều) và DataFrame (2 chiều) xử lý được phần lớn các trường hợp điển hình trong tài chính, thống kê, khoa học xã hội và nhiều lĩnh vực kỹ thuật.

Ưu điểm của pandas:

• Dễ dàng xử lý dữ liệu mất mát, được biểu thị dưới dạng NaN, trong dữ liệu dấu phẩy động cũng như dấu phẩy tĩnh theo ý người dùng mong muốn: bỏ qua hoặc chuyển sang 0
• Khả năng thay đổi kích thước: các cột có thể được chèn và xóa khỏi DataFrame và các đối tượng chiều cao hơn
• Căn chỉnh dữ liệu tự động và rõ ràng: các đối tượng có thể được căn chỉnh rõ ràng với một bộ nhãn hoặc người dùng chỉ cần bỏ qua các nhãn và để Series, DataFrame, v.v. tự động căn chỉnh dữ liệu cho bạn trong các tính toán
• Chức năng group by mạnh mẽ, linh hoạt để thực hiện các hoạt động kết hợp phân tách áp dụng trên các tập dữ liệu, cho cả dữ liệu tổng hợp và chuyển đổi
• Dễ dàng chuyển đổi dữ liệu rời rạc (ragged), chỉ mục khác nhau (differently-indexed) trong các cấu trúc dữ liệu khác của Python và NumPy thành các đối tượng DataFrame
• Cắt lát (slicing) thông minh dựa trên nhãn, lập chỉ mục ưa thích (fancy indexing) và tập hợp lại (subsetting) các tập dữ liệu lớn 
• Gộp (merging) và nối (joining) các tập dữ liệu trực quan
• Linh hoạt trong định hình lại (reshaping) và xoay (pivoting) các tập dữ liệu
• Dán nhãn phân cấp (hierarchical) của các trục (có thể có nhiều nhãn trên mỗi đánh dấu)
• Các công cụ IO mạnh mẽ để tải dữ liệu từ các tệp phẳng (flat file) như CSV và delimited, tệp Excel, cơ sở dữ liệu và lưu / tải dữ liệu từ định dạng HDF5 cực nhanh
• Chức năng theo chuỗi thời gian (time series) cụ thể: tạo phạm vi ngày và chuyển đổi tần số, thống kê cửa sổ di chuyển, dịch chuyển ngày và độ trễ.
• Tích hợp tốt với các thư viện khác của python như SciPy, Matplotlib, Plotly, v.v.
• Hiệu suất tốt

Cài đặt thư viện Pandas

•  Sử dụng pip và gõ lệnh: 

  a    0
  b    1
  c    2
  d    3
  dtype: int64

  4 

  a    0
  b    1
  c    2
  d    3
  dtype: int64

  4
•  Hoặc bằng Anaconda, dùng lệnh:

  a    0
  b    1
  c    2
  d    3
  dtype: int64

  5

Để tìm các cách cài đặt pandas khác bạn hãy xem thêm tại ĐÂY. Lưu ý: Bạn cần cài đặt thư viện NumPy trước (nếu bạn cài bằng Anaconda thì NumPy đã có sẵn).
Lưu ý: Bạn cần cài đặt thư viện NumPy trước (nếu bạn cài bằng Anaconda thì NumPy đã có sẵn).

Khai báo thư viện Pandas

a    0
b    1
c    2
d    3
dtype: int64

Trong phạm vi bài viết này mình sẽ giới thiệu về các xử lý dữ liệu cho 2 cấu trúc dữ liệu cơ bản trong pandas.

Thao tác với cấu trúc dữ liệu cơ bản

Pandas có 2 cấu trúc dữ liệu cơ bản là:

• Series (1 chiều)
• DataFrame (2 chiều).

Panel (3 chiều) từng là một cấu trúc dữ liệu trong pandas trước khi bị gỡ bỏ từ phiên bản 0.25. Bạn có thể tham khảo về panel ở phiên bản 0.24.

1. Series

a    0
b    1
c    2
d    3
dtype: int64

Series là mảng một chiều giống như mảng Numpy, hay như một cột của một bảng, nhưng nó bao gồm thêm một bảng đánh label. Series có thể được khởi tạo thông qua NumPy, kiểu Dict hoặc các dữ liệu vô hướng bình thường. Series có nhiều thuộc tính như index, array, values, dtype, v.v. Bạn có thể thực hiện chuyển đổi Series sang dạng dtype xác định, tạo bảng copy, trả về dạng bool của một thành phần, chuyển Series từ DatetimeIndex sang PeriodIndex, v.v.

Một số ví dụ về thao tác với Series:

Tạo Series

Ví dụ 1: Không truyền index

import pandas as pd

s = pd.Series([0,1,2,3])
print(s)

Output: 

0    0
1    1
2    2
3    3
dtype: int64

pandas sẽ mặc định truyền indextừ 0 đến

a    0
b    1
c    2
d    3
dtype: int64

import pandas as pd

s = pd.Series([0,1,2,3], index=["a","b","c","d"])
print(s)

Output:

a    0
b    1
c    2
d    3
dtype: int64

Ví dụ 3: Tạo Series từ dict

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

Output:

a    -1.3
c     NaN
b    11.7
d     2.0
e     NaN
f    10.0
dtype: float64

Chúng ta tạo dict có index

a    0
b    1
c    2
d    3
dtype: int64

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

Ví dụ 4: Tạo Series từ Scalar Nếu dữ liệu là một giá trị scalar, index phải được cung cấp. Giá trị sẽ được lặp lại để phù hợp với độ dài của index.
Nếu dữ liệu là một giá trị scalar, index phải được cung cấp. Giá trị sẽ được lặp lại để phù hợp với độ dài của index.

import pandas as pd

ser = pd.Series(5, index=[1, 2, 3, 4, 5])
print(ser)

Output:

1    5
2    5
3    5
4    5
5    5
dtype: int64

Truy cập dữ liệu từ Series với index và vị trí Truy cập dữ liệu của Series tương tự với ndarray trong NumPy.Ví dụ 5: Lấy dữ liệu tại index cụ thể 
Truy cập dữ liệu của Series tương tự với ndarray trong NumPy.
Ví dụ 5: Lấy dữ liệu tại index cụ thể

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])

print(ser['d'])
print(ser['c'])

Output:

2.0
nan

Ví dụ 6: Lấy dữ liệu từ đầu đến vị trí index cụ thể

0    0
1    1
2    2
3    3
dtype: int64

Output:

0    0
1    1
2    2
3    3
dtype: int64

Ví dụ 7: Lấy dữ liệu theo vị trí: 2 dữ liệu đầu

0    0
1    1
2    2
3    3
dtype: int64

Output: 

0    0
1    1
2    2
3    3
dtype: int64

Ví dụ 8: Lấy 3 dữ liệu cuối

0    0
1    1
2    2
3    3
dtype: int64

Output:

0    0
1    1
2    2
3    3
dtype: int64

Chuyển đổi sang dạng khác

Ví dụ 9: Lấy dạng array của Series bằng

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

0    0
1    1
2    2
3    3
dtype: int64

Output:

0    0
1    1
2    2
3    3
dtype: int64

Còn rất nhiều thao tác khác mà bạn thực hiện được với Series của pandas tại ĐÂY.

2. DataFrame

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

Dataframe là cấu trúc dữ liệu được gắn nhãn hai chiều với các cột và hàng như bảng tính (spreadsheet) hoặc bảng (table). Giống như Series, DataFrame có thể chứa bất kỳ loại dữ liệu nào. Một điều quan trọng cần làm nổi bật là tất cả các cột trong khung dữ liệu là series Pandas. Vì vậy, một DataFrame là sự kết hợp của nhiều Series đóng vai trò như các cột! DataFrame được sử dụng rộng rãi và là một trong những cấu trúc dữ liệu quan trọng nhất.

Chúng ta hãy bắt đầu với tạo DataFrameVí dụ 1: Tạo DataFrame từ dict các Series 1tạo DataFrame
Ví dụ 1: Tạo DataFrame từ dict các Series 1

0    0
1    1
2    2
3    3
dtype: int64

Output:

0    0
1    1
2    2
3    3
dtype: int64

Ví dụ 2: Tạo DataFrame từ dict các Series 2

import pandas as pd

s = pd.Series([0,1,2,3], index=["a","b","c","d"])
print(s)

Output:

import pandas as pd

s = pd.Series([0,1,2,3], index=["a","b","c","d"])
print(s)

Ngoài ra còn nhiều cách tạo DataFrame khác như từ dict các ndarray/list, từ list của dict, từ một Series, v.v. 

Các thao tác chọn, thêm, xóa cột  

Ví dụ 3: Chọn cột (column selection)

import pandas as pd

s = pd.Series([0,1,2,3], index=["a","b","c","d"])
print(s)

Output:

import pandas as pd

s = pd.Series([0,1,2,3], index=["a","b","c","d"])
print(s)

Ví dụ 4: Một số cách thêm cột (column addition)

import pandas as pd

s = pd.Series([0,1,2,3], index=["a","b","c","d"])
print(s)

Output:

import pandas as pd

s = pd.Series([0,1,2,3], index=["a","b","c","d"])
print(s)

Ví dụ 5: Xóa cột (column deletion)Có thể xóa cột bằng lệnh

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

s = pd.Series([0,1,2,3], index=["a","b","c","d"])
print(s)

Output:

import pandas as pd

s = pd.Series([0,1,2,3], index=["a","b","c","d"])
print(s)

Lập chỉ mục/ lựa chọn

Những điều cơ bản của việc lập chỉ mục như sau

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

data = {'a' : -1.3, 'b' : 11.7, 'd' : 2.0, 'f': 10, 'g': 5}
ser = pd.Series(data,index=['a','c','b','d','e','f'])
print(ser)

import pandas as pd

s = pd.Series([0,1,2,3], index=["a","b","c","d"])
print(s)

Output:

import pandas as pd

s = pd.Series([0,1,2,3], index=["a","b","c","d"])
print(s)

Cắt các dòng

a    0
b    1
c    2
d    3
dtype: int64

Output:

a    0
b    1
c    2
d    3
dtype: int64

a    -1.3
c     NaN
b    11.7
d     2.0
e     NaN
f    10.0
dtype: float64

a    0
b    1
c    2
d    3
dtype: int64

Output:

a    0
b    1
c    2
d    3
dtype: int64

DataFrame

Chọn các dòng theo vector boolean

a    -1.3
c     NaN
b    11.7
d     2.0
e     NaN
f    10.0
dtype: float64

Ví dụ 1: Chọn dòng theo label

Ví dụ 2: Chọn dòng theo vị trí nguyên

Ví dụ 3: Cắt (slice) các dòng

Bên trên là một số thao tác cơ bản với DataFrame. Bạn có thể tham khảo thêm chi tiết về DataFrame tại ĐÂY. Ngoài các thao tác với Series và DataFrame, pandas còn rất nhiều các chức năng tuyệt vời khác.

Tạm kếtWes McKinney (2011). pandas: a Foundational Python Library for Data Analysis and Statistics (PDF).