Боком вышло (значение фразеологизма) — неудачно, не так, как хотелось бы.
От боком, а не прямо, поэтому неудобно.
Так, слово "боком", одним из значений имеет — не прямо (Толковый словарь Ушакова (Ушаков Д.Н., 1935 – 1940 гг.)). От него и образовалось выражение, в значении не так, как нужно.
В словарях
Боком вышло (прост.) — неудачно, не так, как хотелось бы. (Толковый словарь Ожегова (Ожегов С.И., Шведова Н.Ю., 1992 г.), "Боком")
Примеры
Твардовский Александр Трифонович (1910 – 1971)
"Встань, весь край мой поруганный":
Бей, семья деревенская,
Вора в честном дому,
Чтобы жито смоленское
Боком вышло ему.
Зощенко Михаил Михайлович (1895 – 1958)
"Мерси" (1925-1930 гг.):
"Конечно, мерси и спасибо, что вселили, а то он у своих родственников проживал. А только это вселение ему боком вышло."
Толстой Алексей Николаевич (1883 – 1945)
"Хождение по мукам":
"Рощин долго глядел вслед этим гордым европейцам. У него тоже поднималось злорадство: "Недолго погостили на Украине, поели гусей и сала. Брест-то, видно, вышел боком"."