Cuprins
- 1.Liniar Regression 3
- 2.Logistic Regression 4
- 3. Polinomial Regression 7
- 4. Stepwise Regression 8
- 5.Ridge regression 10
- 6. ElasticNet Regression 11
Extras din laborator
1.Liniar Regression
Prin regresia liniara se realizeaza o prezicerea a lui Y in baza lui X, variabila predictive. O astfel de relatie poate fi reprezentata ca fiind: Y ≈ ɒ + ß X + ℇ. ɒ și ß reprezinta termenii pantei si al interceptarii in model, iar ℇ reprezinta eroarea pentru estimare.
Exemplu:
import numpy as np
import matplotlib.pyplot as plt
def estimate_coef(x, y):
# number of observations/points
n = np.size(x)
# mean of x and y vector
m_x, m_y = np.mean(x), np.mean(y)
# calculating cross-deviation and deviation about x
SS_xy = np.sum(y*x) - n*m_y*m_x
SS_xx = np.sum(x*x) - n*m_x*m_x
# calculating regression coefficients
b_1 = SS_xy / SS_xx
b_0 = m_y - b_1*m_x
return(b_0, b_1)
def plot_regression_line(x, y, b):
# plotting the actual points as scatter plot
plt.scatter(x, y, color = "m",
marker = "o", s = 30)
# predicted response vector
y_pred = b[0] + b[1]*x
# plotting the regression line
plt.plot(x, y_pred, color = "g")
# putting labels
plt.xlabel('x')
plt.ylabel('y')
# function to show plot
plt.show()
def main():
# observations
x = np.array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9])
y = np.array([1, 3, 2, 5, 7, 8, 8, 9, 10, 12])
# estimating coefficients
b = estimate_coef(x, y)
print("Estimated coefficients:nb_0 = {}
nb_1 = {}".format(b[0], b[1]))
# plotting regression line
plot_regression_line(x, y, b)
if __name__ == "__main__":
main()
2.Logistic Regression
Regresia logistică este utilizată pentru a găsi probabilitatea evenimentului = Succes și eveniment = Eșec. Ar trebui să folosim regresia logistică atunci când variabila dependentă este binară (0/1, Adevărat / Fals, Da / Nu) în natură. Aici valoarea lui Y variază de la 0 la 1 și poate fi reprezentată prin următoarea ecuație.
Este folosita pentru a estima probabilitatea succesului si al esecului unui eveniment. Acest tip de regresie este folosit atunci cand variabila dependenta este binara in natura.
Preview document
Conținut arhivă zip
- Sisteme de asistare a deciziei.docx