Линейная регрессия: прелюдия
Вступление
На этом уроке мы преодалеем небольшой рубеж: начнём рассмотрение конкретных методов машинного обучения. В этом уроке я расскажу о линейной регрессии и её интуиции. В этой прелюдии я буду избегать математики и сложных понятий (я оставлю их на следующие уроки)
Как предсказать цену дома в 2 раза больше?
На прошлых уроках мы уже сталкивались с задачей предсказания цены дома в Калифорнии, сейчас мы её немного упростим. Допустим, у каждого дома есть только 1 призннак - суммарная площадь его комнат и одна целевая переменная - цена этого дома. Рассмотрим же таблицу.
| Метраж (м²) | Цена дома ($k) |
|---|---|
| 100 | 200 |
| 150 | 309 |
| 200 | 421 |
| 253 | ? |
| 301 | 503 |
Смотря на эту таблицу, интуитивно становится понятно, что цена дома почти ЛИНЕЙНО зависит от его площади. Действительно, даже в жизни, когда мы видим рекламу квартир, на ней пишут цену за КВАДРАТНЫЙ МЕТР жилья, а цена квартиры отсаётся на рассчёты зрителя билборда. Также очевидно, что эта зависимость не идеальна, где-то дом дороже, где-то дешевле и все точки не попадают на прямую и выглядат как-то так, если расположить их в системе координат, где X - площадь дома, а y - его цена:
Мы можем попробовать провести прямую так, чтобы она ПРИМЕРНО проходила через все эти точки и получить что-то такое:
Но вы можете задать несколько вопросов: "КАКАЯ ПРЯМАЯ?!". "КАКИЕ ТОЧКИ?!", "КАКИЕ ДОМА?!", "КТО Я?!" и тому подобное. Попробуем разобраться.
Как я говорил на прошлых уроках: наша цель - придумать алгоритм, который будет "предсказывать" значение целевой переменной на тех данных, которые модель не видела. Прямая - это буквально вся наша модель. В самом простом случае она представляет собой линейную функцию, которую изучают в 7 классе:
Где к - некоторый коэффициент, который определяет угол нашей прямой, а b - смещение (bias) прямой. И всё, вот вся модель.
Допустим, нам надо предсказать цену дома на 253м² , в полученную формулу вместо x подставим 253 и получим ответ. Другой вопрос заключается в том, чтобы подобрать коэффициент k и смещение b. На этот вопрос мы ответим в следующих уроках, как и на тот, а как нам работать с несколькими признаками сразу.
Заключение
На этом уроке мы начали знакомство с первой моделью машинного обучения - линейной регрессией, но нам предстоит ещё много работы, потому что ПРЯМАЯ - это наименьшая из наших проблем. На следующем уроке мы начнём знакомство с линейной алгеброй. Удачи!